Чжан Бэйхай благополучно стал первым руководителем департамента по связям с общественностью и тыловому обеспечению. Он знал, что это опасная и приковывающая всеобщее внимание должность, но пути назад у него уже не было. С одной стороны, он радовался своему назначению руководителем такого ранга, с другой — был уверен в своих силах и знал, как применить свой опыт обращения с властью.
Спустя пятнадцать дней началось согласование бюджета на следующий финансовый год. Представители игровой индустрии каждый день приходили в кабинет Чжан Бэйхая с презентациями своих новейших продуктов; приходили и сотрудники других ведомств, чтобы пролоббировать отдельные вопросы закупок.
Однако изо дня в день Чжан Бэйхаю показывали лишь продукты вроде моделирования политических процессов, анализа социальных данных и контекстного анализа в играх.
В тот день пришла очередная делегация во главе с председателем Комитета по искусственному интеллекту. Когда тот подошел к Чжан Бэйхаю, оказалось, что это весьма высокий и крепкий незрячий человек. Держа в руках ассистивное устройство для слепых, он представил Чжан Бэйхаю инструмент для обработки файлов на основе регулярных выражений.
Чжан Бэйхай не удержался и спросил стоявших перед ним гостей: «Разве на дворе не 2100 год? Судя по материалам, с которыми я ознакомился, искусственный интеллект проделал огромный шаг вперед. Почему же все продукты, которые вы предлагаете, до сих пор сводятся к элементарной классификации данных и статистике? Где хоть что-то действительно передовое? Председатель Мантис, вы возглавляете Комитет по искусственному интеллекту, не могли бы вы объяснить, почему так? До какого уровня вообще развился наш ИИ?»
Мантис погладил пальцами свое вспомогательное устройство и, подняв голову, спросил: «Разве вы не знаете о Лиссабонской конвенции?»
«Всегда говорили, что развитие искусственного интеллекта находится под контролем комиссии по этике. Но каковы конкретные меры?»
«Вы, вероятно, не представляете, насколько строги эти ограничения. После революции в игровой индустрии 2040-х годов технологии искусственного интеллекта совершили колоссальный рывок вслед за развитием геймдева. Многие игровые компании стремились сделать NPC умнее. Путей к этому было много, и один из них — наделить NPC эмоциями. Впереди всех шла студия под названием „Тома“. Они привили NPC концепцию смерти, благодаря чему те постепенно научились испытывать страх, а следом — боль, комфорт и так далее. В сочетании с эвристическими алгоритмами это сделало игровых NPC пугающе похожими на настоящих людей. В 2077 году студия „Тома“ впервые применила эту технологию в игре „Заходящее солнце“. Ее сюжет разворачивался в довоенной Японии, а героиню-NPC звали Сидзуко Ота. Сразу после релиза все игроки-мужчины потеряли от Сидзуко голову. Но спустя год произошло нечто странное: десятки тысяч игроков один за другим покончили с собой в японском лесу Аокигахара. Именно в Аокигахаре заканчивалась одна из сюжетных линий „Заходящего солнца“. Это потрясло весь мир — ведь в те времена на всю планету совершалось лишь несколько сотен убийств в год...»
Мантис запнулся, тяжело вздохнул и продолжил: «Последующее расследование показало, что NPC Сидзуко Ота давала многим игрокам скрытые психологические установки на самоубийство. Следствие длилось несколько лет, но ученые так и не смогли до конца понять: стало ли это случайной комбинацией из ее языкового корпуса или же у Сидзуко Ота действительно появилось самосознание, и она сделала этот выбор сама».
Мантис посмотрел в глаза Чжан Бэйхаю и сказал: «Мне тогда было двадцать два года, и я тоже был преданным фанатом „Заходящего солнца“. Я снова и снова переживал бурные романы с Сидзуко Отой. Всякий раз, задирая голову и с улыбкой глядя на меня, она спрашивала: „Мантис, ты любишь меня? Забери меня отсюда, ладно?“ Тогда я думал, что это просто реплика из сценария. Но позже, когда я сам стал исследователем ИИ и заглянул в ее корпус данных, я обнаружил, что такой фразы там не было».
Мантис ненадолго замолчал: «В восемнадцать лет я поставил себе цель — стать экспертом по искусственному интеллекту и отдать весь свой талант развитию AGI. Однако в двадцать два года я безоговорочно согласился со словами создателя Лиссабонской конвенции: „Нельзя бездумно наделять кого-либо чувствами, ведь никогда не знаешь, что ты ему несешь — счастье или страдание“. С тех пор как была разработана Лиссабонская конвенция, ставшая глобальным консенсусом, технологии универсального искусственного интеллекта оказались в состоянии полного застоя, а разговоры о них превратились в табу. Комитет по этическому контролю ежегодно проверяет всю игровую индустрию и научные институты так же строго, как в XXI веке инспектировали ядерное оружие. И это продолжается уже более двадцати лет».
Выслушав рассказ Мантиса, Чжан Бэйхай почувствовал смутное беспокойство. Неужели все было настолько просто? Неужели это всего лишь научный инцидент?
Чжан Бэйхай подумал о том, что, судя по последствиям, этот инцидент послужил толчком к созданию комиссии по этическому контролю и объективно затормозил развитие искусственного интеллекта. Неужели... эту акцию спланировало в свое время наше Бюро? Ведь именно этого Бюро всегда и добивалось: подавить организацию „Выживание цивилизации“ и остановить развитие технологий ИИ. Но если все было подстроено, то это был полномасштабный теракт: довести до самоубийства десятки тысяч людей — разрушительный эффект во много тысяч раз превышал теракт 11 сентября.
Боже... Чжан Бэйхай почувствовал, что коснулся самой сути, сокровенного ядра. Это не трения между цивилизациями, это... Он не смел думать дальше.
Чжан Бэйхай внезапно ощутил, как в голове роится множество догадок. Сдерживая себя, он выдавил: «Хорошо, продолжим в следующий раз. Мне нужно найти Уэйда».
Мантис словно уловил эмоциональный всплеск Чжан Бэйхая; казалось, скрытые под темными очками глаза приоткрылись, чтобы полюбоваться сменой выражения на его лице.
Мантис остался весьма доволен своими наблюдениями. Он молча попрощался с этим высокопоставленным сановником, зная, что генерал Бэйхай машинально вычеркнет его из памяти, восприняв как обычного игрового NPC, второстепенного статиста в сценарии — пустое место.
Вот только реальный мир устроен иначе, чем игра: заурядный клерк вполне может оказаться тем, кто держит в руках верховную власть в этой партии.
Шел дождливый сиднейский вечер, когда Мантис вернулся домой.
Мантис поставил стул на балконе и молча слушал, как ливень колотит по оконным стеклам, по деревьям за дверью, по этой Земле с ее миллиардами лет истории.
Ночь была непроглядно темной. Мантис снова и снова прокручивал в памяти каждую деталь сегодняшней встречи с Чжан Бэйхаем, стремясь закрепить их навечно и соединить с общей картиной, сложенной в голове.
Мантис прекрасно понимал: опасно доверять важные мысли и разведданные чему-либо, что оставляет след. Поэтому вся головоломка хранилась исключительно в его разуме. В единственном экземпляре, без каких-либо копий.
Мантис выключил свет на балконе, полностью растворившись в темноте и ливне. Теперь ему предстояло заняться документами.
Как председатель Комитета по искусственному интеллекту, он был обязан регулярно проверять экспертные отчеты соответствующих ведомств, исполняя надзорные функции.
Содержание этих отчетов Мантиса не интересовало — обычно это были казенные отписки. Его задачей было пропустить эти файлы через собственную песочницу аналитической разведки, зафиксировав стилистику текста, временные метки и прочее.
Проверяя метаданные отчета из ведомства Уэйда, Мантис с удивлением обнаружил, что поле даты оформлено нестандартно. Хотя при каждом обновлении систем валидации ПО случались те или иные сбои, ошибка в валидации даты поразила его.
Он уже собирался проигнорировать эту нестыковку, как вдруг с изумлением заметил, что и в ведомстве Цзяо Хуаньци поле даты составлено с нарушением стандарта — в нем явно не хватало нескольких цифр.
Он принялся тщательно разбираться: почему отсутствовало несколько цифр? По идее, такие метаданные формировались автоматически, и хотя прикладной софт время от времени давал мелкие сбои, текущая проблема явно не походила на программную ошибку. Не было ли это следствием сбоя в регулярном выражении при пакетном поиске и замене?
Мантиса осенило: возможно, кто-то пытался на уровне хранилища полностью удалить файлы с определенным ключевым словом, но регулярное выражение скрипта очистки содержало ошибку компиляции, которая задела и другие файлы. В результате метаданные поданных отчетов пострадали, а поскольку поле даты обладало избыточностью, строгой проверке оно обычно не подвергалось — так дефект и остался незамеченным до сих пор.
Мантиса волновало другое: почему эти два ведомства одновременно и словно сговорившись решили удалить файлы, причем, похоже, затронутыми оказались одни и те же фрагменты?
Мантис решил вычислить это ключевое слово. Он начал конструировать различные варианты регулярных выражений и моделировать их применение к формату даты. После множества попыток регулярное выражение с удалением комбинации «817» дало результат, в точности совпавший с ошибочным форматом обоих ведомств.
Теперь он знал: «817» — искомый ключ. Мантис понимал, что впереди еще долгий путь, но это кодовое число явно открывало дверь к истине. Ему нужно было найти файл, содержащий «817», и узнать, какая тайна в нем скрыта.
Ночь была непроглядно темной. Мантис с досадой хлопнул себя по голове: он пристальнее всего следил именно за этими двумя ведомствами, и тем не менее прямо под его носом они что-то замышляли, а он оставался в полном неведении.
Нервно прошагав по комнате взад и вперед, Мантис понял, что настало время встретиться с одним старым знакомым.
Он поднялся и вернулся в спальню, где переоделся в темную уличную одежду. Прошлая встреча с тем человеком состоялась такой же темной дождливой ночью.