Чжан Бэйхай пришел в кабинет первым этим утром. Повернувшись на север, он благоговейно отвесил три земных поклона. Так он держал ответ перед отцом и предками из семейного храма. В родословной клана Чжан...
Чжан Бэйхай знал, что Уэйд когда-то был преданным костяком организации «Сохранение цивилизации». До 2020 года он всем сердцем стремился развивать общий искусственный интеллект; технологический прогресс имел для него первостепенное значение. Поэтому, очнувшись на этот раз, он определенно не станет послушно соблюдать какую-то там Лиссабонскую конвенцию и наверняка уже втайне начал действовать. Вступив в должность нового руководителя этого ведомства, Чжан Бэйхай, с одной стороны, должен был использовать Уэйда и продвигать полезных для себя людей, а с другой — сдерживать и уравновешивать его.
Когда Уэйд сегодня вошел в дверь, Чжан Бэйхай заметил у него в руках два похожих на нефрит браслета, судя по виду, из какого-то нового материала, и в шутку спросил: «Это случайно не ледяной нефрит высшей пробы, который ты решил мне подарить?»
Уэйд усмехнулся: «А ведь именно так. Помнишь технологию, о которой я рассказывал пару дней назад — похожую на электромагнитный жетон и предназначенную для наблюдения за пациентами? Как нам известно, когда люди лгут или сознательно скрывают факты, их физиологические реакции претерпевают тонкие изменения: учащается сердцебиение, меняется кожное сопротивление и колеблются некоторые биохимические показатели, например, повышается уровень кортизола. Кортизол здесь — ключевой маркер стрессовой реакции. Мы использовали определенный изотоп для маркировки молекул кортизола. Химически этот изотоп практически идентичен обычным молекулам кортизола, но отличается физическими свойствами, в частности массой. Таким образом, когда датчик внутри браслета фиксирует повышение концентрации кортизола, он может подтвердить это, измерив концентрацию этого конкретного изотопа. Используя простые алгоритмы, отслеживающие количество и положение изотопов на электромагнитном жетоне, устройство рассчитывает эндокринный уровень и прочие показатели, благодаря чему способно распознавать ложь. На днях компания Bat выпустила несколько опытных образцов, и я принес парочку показать вам».
Чжан Бэйхай с улыбкой сказал: «Хорошо, отлично. Я как раз собирался спуститься и взглянуть на компанию Bat, но в последние пару дней все время уходило на совещания и урегулирование кадровых вопросов в министерстве, так что руки не дошли».
Уэйд добавил: «Взгляните, занятная вещица». С этими словами он надел оба браслета себе на запястье: «Если я солгу, он станет красным. Например... сегодня я пришел обмануть господина Бэйхая... Видите? Покраснел».
Чжан Бэйхай кивнул.
Затем Уэйд заговорил: «Я не являюсь членом организации „Сохранение цивилизации“».
Браслет загорелся синим!
Затем Уэйд заговорил: «Я не являюсь членом организации „Сохранение цивилизации“».
Браслет загорелся синим!
Чжан Бэйхай опешил: неужели и впрямь не член «Сохранения цивилизации»?
Уэйд продолжил: «В 2020 году ты работал в органах госбезопасности и, возможно, получал разведданные обо мне, утверждавшие, будто я член организации „Сохранение цивилизации“. Но на самом деле это не так. Я лишь сочувствовал этой организации. Я люблю технологии искусственного интеллекта и желаю им прогресса и развития».
Чжан Бэйхай кивнул, прикидывая про себя: либо тот дурачит его фальшивым детектором лжи — кто знает, не обычный ли светодиод светится в этой безделушке, ведь это не кино, где достаточно заявить, что штуковина — детектор лжи, чтобы она им и стала? Либо Уэйд действительно не лжет и формально не состоит в организации «Сохранение цивилизации». Но это лишь значит, что он в нее не вступал — а сотрудничал ли? Быть может, состоял раньше, а потом вышел? Или его исключили? Или же он играет словами: организация «Сохранение цивилизации» уже давно исчезла, так что заявить, будто он в ней не состоит, вполне справедливо.
— Хм, — Чжан Бэйхай похлопал его по плечу и произнес: — Я верю тебе, Уэйд. В то время мы действительно получали разведданные, указывавшие, что ты был ключевым членом организации «Сохранение цивилизации» и участвовал во многих их мероприятиях.
Уэйд продолжил: «Верно, я участвовал во многих мероприятиях. Но тогда они были законной организацией, а ежегодные конференции вроде IJCAI являлись передовыми научными форумами по искусственному интеллекту. Какая у меня, энтузиаста технологий ИИ, была причина не посещать их?»
Браслет оставался синим!
Чжан Бэйхай едва верил своим глазам. Ведь это же сам Уэйд! Он потратил столько времени на его изучение и анализ, считал, что знает его как облупленного, но в конечном счете тот по-прежнему умудрялся открываться с совершенно неожиданной стороны.
Разумеется, Чжан Бэйхай понимал: в сложившейся ситуации сотрудничество с ним — наилучший выбор.
Поэтому Чжан Бэйхай с улыбкой сказал: «Дружище Уэйд, не волнуйся, пусть прошлое развеется как дым; прекраснее всего утренняя заря завтрашнего дня. Расскажи мне лучше о своем плане. Как заставить эту силу работать на нас?»
Уэйд ответил: «Хорошо, господин Бэйхай. Прежде всего, компания „Юнайтед Системс“, которую я для вас подобрал, изначально занималась производством оружия и является мировым лидером в области автоматического вооружения. Она также непрерывно вела исследования в сфере искусственного интеллекта. Вы ведь знаете знаменитую статью 0817 Лиссабонской конвенции:»
«Без одобрения Комитета по этике общего искусственного интеллекта ни одно физическое или юридическое лицо не имеет права проводить эксперименты с искусственным интеллектом».
Фактически с 2083 года комитет по этике не одобрил ни одного эксперимента. На деле он превратился в надзорный орган, ежегодно проводящий глобальные инспекции наподобие ядерных проверок.
Однако компания «Юнайтед Системс» пошла по иному пути разработок: начав с траекторной памяти и компенсации манипуляторов, она постепенно создала комплекс полицейского оборудования под названием «Условный рефлекс». Когда полицейский подвергается нападению, встроенное автоматическое оружие рефлекторно открывает ответный огонь, применяя электрический разряд высокого напряжения, инфразвук, резиновые пули и прочие средства.
В прошлом году один из исследователей компании в праздной беседе упомянул, что они собирают данные о системе «Условный рефлекс» уже больше десяти лет. Если однажды надзор комитета по этике ослабнет, они смогут моментально создать электронных собак и кошек — этаких безмозглых электронных питомцев с фиксированными поведенческими паттернами.
Чжан Бэйхай расспросил подробнее: «Раз уж всё строится на условных рефлексах, что служит источником стимула?» Он ответил, что стимул — это всего лишь набор данных: например, чтобы электронный питомец шел, ему непрерывно подается стимул ходьбы, а при столкновении с препятствием — стимул ходьбы плюс препятствие. То есть имитируются инстинкты животного, чтобы оно выглядело как настоящее...»
Чжан Бэйхай перебил его вопросом: «Это я понимаю. Но неужели комбинация подобных рефлексов способна породить сознание?»
«Нет-нет-нет, меньше всего нам нужно, чтобы у них было сознание. Во-первых, если у них появится сознание, комитет по этике непременно это пресечет. Во-вторых, если они обретут сознание, мы не можем быть уверены, что они захотят встать на нашу сторону, и эта сила уже не обязательно будет принадлежать нам».
«Да, верно. Но нам сейчас нужны вовсе не электронные кошки и собаки. Можно ли с помощью этой технологии произвести что-то действительно полезное?»
«Конечно. Мы используем эту технологию для производства роботов — лишенных сознания и мыслей, ведомых лишь инстинктами гуманоидов. Причем мы заставим „Юнайтед Системс“ применить лучшие материалы и технологии, новейшие системы питания на солнечной энергии, первоклассные комплектующие — с расчетом на техобслуживание раз в десять лет. А затем вооружим их автоматическим оружием, оснастим системой „Условный рефлекс“, чтобы всего три робота могли держать под контролем целый жилой квартал».
Чжан Бэйхай подумал про себя: это все тот же безжалостный Уэйд. Партию роботов, которую он собирается произвести, впору назвать «палачами».
И тогда Чжан Бэйхай расспросил старого лиса насчет закупки.
«На самом деле у меня есть кое-какие связи с Первым руководителем комитета по этике. В прошлом году им выделили солидную сумму, поэтому комитет немного смягчил проверки для пары компаний, — сказал Уэйд Чжан Бэйхаю. — Если вы действительно хотите закупить партию продукции, можно обратиться в эту фирму». С этими словами Уэйд протянул Чжан Бэйхаю визитку.
«Я просто поинтересовался, дело-то крайне щекотливое. К тому же ведомству это ни к чему, а узнай общественность — разразится грандиозный скандал. На самом деле мне хотелось бы затронуть одну запретную тему. Я здесь человек новый, не знаю, с кем уместно об этом говорить, и подумал, что только с тобой, старый друг, можно обсудить все откровенно. Короче говоря, я хочу спросить: как ты относишься к самоубийствам игроков в „Заходящем солнце“ в 2078 году? Что произошло на самом деле? Неужели виной всему действительно искусственный интеллект? Или за этим кто-то стоял? Ведь это событие затормозило развитие ОИИ почти на тридцать лет. Не верю я, что все так просто, как кажется на первый взгляд».
Взгляд Уэйда слегка затуманился. Поразмыслив, он ответил Чжан Бэйхаю: «То, что уже произошло, изменить никому не под силу. Какова бы ни была истина, последствиями этого инцидента уже сманипулировали. Разве теперь важно, в чем заключалась правда? Факт в том, что Комитет по этике ОИИ был создан, а технологии искусственного интеллекта заморожены. Ты недостаточно хорошо знаешь ту эпоху: не будь „Заходящего солнца“, появилось бы „Восходящее“. Как бы ни развивались события, итог все равно свелся бы к критике общего искусственного интеллекта. Пережив „Великое переселение“ 2050-х и „Революцию игровой индустрии“ 2060-х годов, человечество вновь уцепилось за пошлую мораль эпохи Возрождения, стало сентиментальным, нежелающим сталкиваться с моральными рисками и отвечать на этические вызовы, неспособным пожертвовать меньшинством ради всеобщего прогресса — даже если речь идет о жертве каким-то гребаным NPC с зачатками эмоций из дурацкой игры...»
К этому моменту Уэйд заметно разволновался. Чжан Бэйхай понял: перед ним все тот же Уэйд, готовый двигаться вперед любой ценой.
Заметив, что перегнул палку с тоном, Уэйд смягчился: «Искать виновных в прошлом и докапываться до истины бессмысленно. Главное — разобраться с трусами, которые противостоят нам сейчас».
Чжан Бэйхай искренним тоном и с открытым выражением лица возразил: «Нет-нет, вовсе нет. Понимание истории позволяет глубже осознать настоящее, а изучение траектории прошлого помогает разглядеть направление будущего. Чтобы знать, куда мы идем, необходимо понимать, откуда мы пришли; взгляд назад — это тоже взгляд вперед. История — вовсе не девка, которую можно наряжать как угодно, а правда — отнюдь не труха, до которой никому нет дела».
Уэйд усмехнулся: «Бэйхай, об истории я уже все сказал. Такой умный человек, как ты, давно должен был понять, в чем там было дело. Правду о тех давних событиях теперь и впрямь не установить: в эпоху безбумажного документооборота стереть данные проще простого. И не нужно меня прощупывать — в любом случае мы по одну сторону баррикад».
Чжан Бэйхай с наигранным удивлением спросил: «О как? И что это значит?»
«Закупка, которую я для вас подготовил, — это сила, способная оказать вам неоценимую помощь. Во-первых, эти роботы, наделенные минимальной способностью принимать решения, после разблокировки будут подчиняться исключительно нам. Таким образом, вы получите свежие боевые резервы, и я вооружу их самым передовым полицейским арсеналом. Во-вторых, я позабочусь об уничтожении всех исходных чертежей, моделей, исходного кода и алгоритмов, так что только мы сохраним возможность быстрого воспроизводства. С такой силой за спиной наше положение существенно укрепится».
Чжан Бэйхай подумал и произнес: «Дружище Уэйд, я, конечно, готов тебе верить. Но держать в руках подобную частную вооруженную силу — не станет ли это скорее источником опасности, чем безопасности? В Китае есть древняя пословица: „Владеть нефритом — уже преступление“. Если об этом прознает Президиум, меня раздавят первым. Да и если ты или твои люди донесут на меня, вам это зачтется как огромная заслуга».
Уэйд опешил и сказал: «Ты об этом беспокоишься? Напрасно. Мы в одной лодке, я ни за что не пойду против тебя. К тому же ты плохо знаешь Объединенное правительство: сейчас при каждом ведомстве имеются собственные военизированные формирования. Скажем, при Министерстве здравоохранения и эпидемиологии есть штатные противоэпидемические войска, при Службе спасения и благотворительности — пожарные подразделения, а при Ведомстве транспорта и авиации — дежурные летные части. Это характерная черта Объединенного правительства, ничего необычного. Дружище, разве ты мне не доверяешь? Я тщательно просчитал реакцию всех сторон и готов детально обсудить с тобой весь план».
Чжан Бэйхай с улыбкой ответил: «Дружище Уэйд, взаимное доверие между нами должно опираться не только на то, что мы соотечественники, но и на нечто большее. Либо открой мне свою истинную цель, либо расскажи о своем прошлом».
«Я вполне разделяю твой замысел, дружище Уэйд, но неужели Комитет по этике одобрит таких роботов?»
«Ха-ха-ха, разумеется, я не стану выкладывать все это комитету по этике. Брат Бэйхай, у вас, китайцев, есть поговорка: „Войско должно выступать во имя правого дела“. Реальность — это не фантастическое кино, где легко отличить злодеев от героев. Стоит подобрать правильное название, и большинство людей примет нас за тех самых киношных спасителей.
Разумеется, я не скажу ни комиссии, ни публике, что это роботы. Я по-прежнему буду называть их электронными полицейскими собаками, а потом дам какую-нибудь умилительную собачью кличку — этого вполне хватит, чтобы общество утратило бдительность. Что касается комитета по этике, я заявлю им, что это патрульное снаряжение, заказанное полицией и службой безопасности, — продукт нового поколения, недавно разработанный компанией „Юнайтед“. Мол, раньше система „Условный рефлекс“ устанавливалась на самих полицейских, а теперь — на электронную собаку, вот и все.
Комитет по этике функционирует уже двадцать лет, давняя катастрофа осталась далеко позади. Люди, работающие там сейчас, воспринимают службу просто как рутинную работу, у них не осталось никакой бдительности. Достаточно подкинуть им побольше бюджета, и одобрение у нас в кармане».
«А как насчет полиции и службы безопасности?»
«Я уже договорился с их Первым руководителем, он тоже согласен закупить эту продукцию. Все последующие шаги я возьму на себя, от вас требуется лишь утвердить план закупок».
«Отлично, прекрасно, дружище Уэйд, работать с тобой — одно удовольствие, — одобрительным тоном произнес Чжан Бэйхай. — Дай-ка я еще подумаю, не упустили ли мы чего-нибудь...»
Чжан Бэйхай мерял шагами комнату, про себя оценивая партию, в которую его втягивал Уэйд. В первом раунде противостояния Чжан Бэйхай первым занял пост Первого руководителя, захватил инициативу и получил право наложить вето на его предложения. Во втором раунде Уэйд опередил его, выдвинув предложение, выглядевшее безупречно выгодным для него и полезным для их нынешнего альянса. Но если безоговорочно следовать расписанному им сценарию, инициатива будет утеряна, а ведь именно инициатива — решающая переменная в борьбе за власть.
Чжан Бэйхай больше всего ненавидел, когда им манипулировали. Действовать по указке Уэйда означало отдать инициативу, но упустить подобную возможность было бы крайне досадно: в конце концов, утверждение бюджета случается лишь раз в году.
В этот момент прозвучал сигнал внутренней системы безопасности, и голосовой помощник объявил: «Прибыл посетитель по записи».
«Но я никого не назначал на вторую половину дня?» — пробормотал Чжан Бэйхай и вывел изображение от двери на экран. У входа стояла не кто иная, как Вань Инин!
«Не проверяй, это я пригласил Инин», — с улыбкой сказал мне Уэйд. Его улыбка казалась теплой и вполне искренней, словно проявление дружеской душевности.
Однако в душе у Чжан Бэйхая пробежал холодок.
Уэйд продолжил: «Я слышал от Инин, что сегодня днем ты встречаешься с Цзяо Хуаньци из Президиума, вот и позвал ее заодно заглянуть к нам — все равно, как я погляжу, расписание на вторую половину дня у тебя свободно».
«Вот и сделал свой ход», — подумал Чжан Бэйхай. Два дня назад он связался с Вань Инин и попросил ее устроить встречу с членом Президиума Цзяо Хуаньци, строго-настрого наказав никому об этом не говорить.
Цзяо Хуаньци являлся Первым руководителем Комитета по делам игр и промышленности и одновременно членом Президиума Объединенного правительства. Изучив его послужной список, я предположил, что он выступает в поддержку развития технологий ИИ, и намеревался прощупать, не создал ли Уэйд в структуре Объединенного правительства группировку сторонников искусственного интеллекта.
Чжан Бэйхая поразило то, что, во-первых, Уэйд, очевидно, прослушивал мой канал связи и узнал о разговоре с Вань Инин, а во-вторых, позвал ее сюда явно ради неприкрытого давления на Чжан Бэйхая. Чжан Бэйхай про себя сокрушался: стоило лишь слегка проявить симпатию к Вань Инин, как тот сразу это подметил и решил использовать как рычаг шантажа — поистине безжалостный человек.
Чжан Бэйхай посмотрел Уэйду в глаза: его взгляд оставался чистым и серьезным, не выдавая ни малейшей фальши или скрытого умысла.
Чжан Бэйхай улыбнулся ему в ответ: «Ладно, я понял твою мысль. Будь спокоен, это отличный шанс, и я его не упущу». Он вернулся в свое кресло и добавил: «Но к чему такая спешка?»
Уэйд произнес: «Первое правило разведки: важнейшая цель требует максимума внимания. Наша текущая цель крайне серьезна, поэтому мы обязаны воспользоваться моментом. На днях я поболтал с Инин, она не против поработать в нашем ведомстве пару месяцев, так что я подобрал для нее должность».
«Уж не твоя ли Инин креатура?»
«Господин Бэйхай, вы перегибаете. Вань Инин действительно никак со мной не связана, она всего лишь медсестра из криогенного госпиталя в Канберре. Можете сами проверить ее досье. Она устроилась сюда из чистого фанатского восторга: прежде ее главным кумиром был я, а теперь стали вы — я даже слегка ревную...»
«Здравствуйте, великие звезды!» — раздался звонкий смех Вань Инин, вошедшей прямо посреди нашего разговора. — «О чем вы секретничаете? Мне можно послушать?»
Взглянув в ее глаза, полные весенней свежести, Чжан Бэйхай почувствовал, как и эта осень заиграла яркими красками. Я произнес: «Конечно, можно. Мы как раз обсуждаем круг твоих обязанностей. Пойдешь первым адъютантом в наше ведомство? Там очень красивая форма».
«Пф-ф, небось просто потому, что тебе не по душе ставленники Ли Гэюя?»
«Откуда ты знаешь?» — невольно удивился я.
«Разве назначение Президиумом первых адъютантов в отдельные ведомства не стало негласным правилом? Я три месяца стажировалась в ООН, так что, само собой, в курсе», — ответила Вань Инин.
Уэйд заметил: «Раз у Инин есть такой опыт, ей будет еще проще освоиться. Постоянный первый адъютант господина Бэйхая прибудет лишь через несколько месяцев, так что ты пока можешь ему помочь».
«Разве вы, люди прошлой эры, не против того, чтобы девушки приходили вам на помощь?»
Мы с Уэйдом переглянулись и улыбнулись. Я сказал: «Ты почерпнула этот стереотип из игр? В нашу эпоху далеко не все были мужскими шовинистами».
Вань Инин легко улыбнулась: «Хорошо, господин Бэйхай. Когда мне приступать к работе?»
Уэйд сказал: «Прямо сейчас. Пойдешь примерить форму?»
«Здорово! Я видела такую форму только в играх. Хочу наряд в стиле двадцатых годов прошлого века! Кстати, позовите меня, когда закончите разговор. Мне не очень хочется сталкиваться с ним здесь — он опять начнет читать мне нотации».
Когда Вань Инин вприпрыжку удалилась, в кабинет вошел рослый мужчина средних лет.
Он явно регулярно занимался спортом: развитая мускулатура туго натягивала костюм, однако ступал он на удивление бесшумно. Чжан Бэйхай украдкой наблюдал за ним краешком глаза.
Разминувшись с Вань Инин, он выказал едва заметное удивление, но при виде Уэйда выражение его лица ничуть не дрогнуло.
Чжан Бэйхай подошел пожать руку: «Здравствуйте, вы ведь господин Цзяо Хуаньци?»