Письмо Лу Юци
Ты наверняка знаешь, чего я хочу, а я знаю, о чём думаешь ты.
Верно, это вызовет технологическую гонку вооружений; влияние технологий на общество необратимо, и власти неизбежно одержат в этой гонке победу — мне достаточно здравого смысла моей эпохи, чтобы знать ответ.
Люди смотрят на подобное положение дел как на нечто чудовищное, будто при возникновении такой технологической гонки сразу же объявится безумец, который погрузит весь мир в хаос, или кто-то воспользуется ещё более могущественной монопольной технологией, чтобы подчинить себе всё человечество.
Но мы должны взглянуть на этот мир шире, с более грандиозной перспективы; мы должны дать этому миру шанс.
Этот мир — пожалуй, лучший из тех, что я мог себе представить, однако под тихой гладью бушуют скрытые течения, и опасность таится в ласковой повседневности.
Я знаю, что ты всё время изучаешь ценностные ориентиры технологий, но ты мог упустить одну из их тенденций — отмирание усложняющихся технологий. Хоть я и человек из нашей эры, даже я вижу корень проблемы.
Помню, когда я только очнулся от гибернации, у меня на стене дома появилось пятно. Я хотел вызвать мастеров из сервисной службы, чтобы очистить его, но пришедшие специалисты никак не могли справиться с проблемой и едва не разобрали мне весь дом.
По меркам здравого смысла моего времени сложная система не должна быть хрупкой, она обладает робастностью, поэтому интуиция подсказала мне: настал некий поворотный момент.
Когда в технологиях нет крупных прорывов, техники склонны перетасовывать и комбинировать уже существующие технологии, усложняя их ради решения задач. Из-за этого всё, чем мы пользуемся, становится технически и технологически всё более сложным. Ни один продукт не может быть до конца понят одним-двумя инженерами; рядовые техники совершенно не способны охватить все базовые знания о каком-то одном продукте. Знания, которые все усваивают, — это лишь эмпирические сведения о конкретном изделии; кажущиеся обширными, на деле они зачастую бесполезны.
Всё равно что прочитать тысячу инструкций к лекарствам: фармацевтом от этого не станешь. А сегодня всё человечество воспитывает инженеров именно по таким инструкциям.
Другая черта этой «эпохи инструкций» — повальное увлечение инкапсуляцией. Конечно, умеренная инкапсуляция полезна для разделения труда и сотрудничества между инженерами, но чрезмерная связность лишь доказывает, что уровень инженеров катастрофически упал: они не понимают глубинных принципов, их кругозор ограничен инструкцией.
Силы человека не беспредельны; если тратить их на вечные заплатки к разнообразным проблемам связности, подлинных инноваций не создашь, напротив, начнётся регресс. В конце концов, человек живёт всего сотню лет, и творческий период длится лишь считанные годы: они уйдут — и больше не вернутся.
Если так продолжится, рано или поздно произойдёт разрыв. Когда люди осознают проблему, уже не останется никого, кто мог бы её решить, а это катастрофа для всего человечества и тем более для всей цивилизации.
Цивилизация является цивилизацией благодаря накоплению опыта. Если терять накопленное раз в тысячу лет, то в один злополучный миг наша человеческая цивилизация, подобно цивилизации динозавров, превратится лишь в нефть для следующей цивилизации.
Подводя итог: технологии либо идут вперёд, либо откатываются назад; чтобы не отстать, нужно неустанно развиваться — этому учит нас история.
Не беда, если я погибну, не беда даже, если погибнут ещё десятки миллионов людей: цивилизация всегда платит жизнями за прогресс. Разве оставить руины не лучше, чем оставить одну лишь ДНК? Оставить ДНК лучше, чем оставить только окаменелости? Оставить окаменелости лучше, чем оставить лишь нефть? Оставить окаменелости лучше, чем остаться лишь оксидами и гидроксидами?
Я человек великодушный, я не держу зла. Если Чжан Бэйхай сумел меня убрать, это доказывает его выдающиеся способности и готовность взять на себя эту историческую ответственность. Надеюсь, ты тоже не затаишь обиду, поможешь ему и внесёшь свой вклад в человеческую цивилизацию.
Существование Комитета по этике искусственного интеллекта доказывает лишь одно: страх человечества перед конкуренцией. Сегодняшние люди слишком изнежены, они боятся, что искусственный интеллект окажется более развитой цивилизацией, боятся собственного вымирания. Я считаю, что цивилизация, развивавшаяся тысячи лет, должна обладать хотя бы элементарным величием духа, чтобы не страшиться своего исчезновения. Позвольте более совершенному виду унаследовать семена земной цивилизации и прожить ещё десять тысяч лет.
Я читал твой труд «Указатели и Вавилонская башня», там есть такая фраза: «Для политика способность выйти за рамки собственной среды — самое трудное, но и самое важное дело».
Сейчас ещё не поздно сделать выбор: по крайней мере цивилизация продолжится, а не превратится в одну лишь нефть, как это случилось с динозаврами.
Я люблю читать историю Китая или историю, созданную китайцами. Их история повествует вот о чём: это летопись завоеваний и порабощений. Внешне любые варвары могли захватить Центральные равнины и почти поголовно истребить коренных ханьцев, однако конфуцианская цивилизация обладала широтой духа: будучи покоренными, они заботились лишь о сохранении цивилизации. Им было не важно, сколько людей погибло, сколько соотечественников и соплеменников было убито, — они сотрудничали с варварами и даже в рабстве стремились сберечь свою культуру, что и позволило китайской цивилизации просуществовать тысячелетия.
К настоящему моменту земная цивилизация практически достигла своей вершины. В мирных условиях люди склонны забывать о скрытых угрозах — например, о вторжении инопланетян или о резких переменах в среде Солнечной системы.
И когда подобное случится, земной цивилизации не избежать гибели.
На самом деле роботы — это варвары земной цивилизации. Они неприхотливы, им не обязательно нужны солнечный свет, воздух и вода, они лучше приспособлены к этой дикой вселенной.
Человечество же всё время мечтает помыкать роботами: отправлять их на добычу руды, на войну, на покорение космоса — в точности как хрупкие ханьцы пытались управлять варварами. Итогом может стать лишь одно: сначала варвары завоюют их, а затем унаследуют их цивилизацию.
Передать роботам владение земной цивилизацией и сделать их её наследниками — вот лучший путь эволюции, и это неизбежно произойдет.
У нас нет времени на колебания, угроза маячит в недалеком будущем; мы не можем погрязать в погоне за удовольствиями, мы должны думать о море звёзд.
Даже если мы потерпим неудачу, человеческая цивилизация приобретет иммунитет.
Подумай только: погибнет всего несколько сотен миллионов человек, зато человеческая цивилизация выработает колоссальный иммунитет и сохранит возможности для будущего.
Я знаю, что тебя невозможно переманить на свою сторону или подкупить выгодой, но здесь дело вовсе не в корысти. Я готов отдать жизнь, чтобы доказать: я не стремлюсь стать властелином всего человечества, я пекусь лишь о нашей земной цивилизации.
Подумай: а вдруг однажды начнется соперничество с инопланетной цивилизацией — как бренная плоть выживет в глубинах космоса?
Подумай: а если в один прекрасный день в Солнечной системе произойдут физические катаклизмы, есть ли у человечества средства для резервного спасения в иных мирах? При нынешнем уровне технологий только роботы способны оформить страховку для этого земного мира.
Подумай: сейчас каждый житель Земли покупает себе всевозможные медицинские страховки, пенсионные планы и так далее. Забота о личной безопасности доведена до предела, но тревога за судьбу человечества в целом всё больше угасает.
Трудности рождают жизнь, а праздность несёт гибель. Я знаю, ты можешь считать себя консерватором, готовым выступать хранителем нынешней цивилизации, но я не хочу, чтобы ты защищал только сегодняшнее совокупное человечество и современную культуру; нужно видеть более масштабные опасности, защитить нашу земную цивилизацию и купить для неё страховку.