陸遊七への手紙
君には私が何を望んでいるかが確実に分かっているだろうし、私にも君が何を考えているかが分かっている。
その通りだ。これは技術の軍備拡張競争を引き起こすだろうし、技術が社会にもたらす影響は不可逆だ。当局はこの軍拡競争で必ず勝利を収めるだろう。私のいた時代の常識に照らし合わせるだけで、その答えは分かる。
世間の人々はこのような状況をまるで化物のように恐れている。ひとたびそうした技術競争が起きれば、狂人が全世界を混乱に陥れるか、あるいは誰かがさらに強力で独占的な技術を利用して全人類を支配するのではないかと。
だが、私たちはもっとマクロな視点でこの世界を見るべきであり、この世界にチャンスを与える必要がある。
この世界は私が想像し得る限り最良の世界だと言えるが、平穏の底には暗流が渦巻いており、危険は穏やかな日常の中に潜んでいる。
君がずっと技術の価値志向を研究してきたことは知っているが、君はある一つの技術の傾向を見落としているかもしれない。それは、複雑化した技術の消滅だ。私は西暦時代から来た人間にすぎないが、それでも問題の所在が見えている。
コールドスリープから目覚めたばかりの頃のことを覚えている。自宅の壁に小さな汚れができて、アフターサービスの担当者に掃除してもらおうとしたのだが、やって来た担当者は一向に問題を解決できず、危うく家ごと解体されそうになった。
私の時代の常識から言えば、複雑なシステムとは脆弱なものではなく、堅牢性（ロバストネス）を備えているものだ。だから直感が告げたのだ、ある時が訪れたのだと。
技術に大きな革新がない時、技術者たちは既存の技術を順列組み合わせし、問題を解決するためにそれらを複雑化させる傾向がある。その結果、私たちが使うあらゆるものが技術的にも工程的にもますます複雑化していくのだ。どんな製品も一握りのエンジニアだけで全体を把握することはできず、一般的な技術者はある製品に関する基礎知識のすべてを到底把握できない。誰もが学んでいるのは、ある製品に関する経験的な知識にすぎず、そうした知識は一見膨大に見えても、実際には役に立たないことが多い。
医薬品の説明書を千枚読んだところで、薬学の専門家にはなれないのと同じだ。しかし今や全人類が、そのような説明書を使ってエンジニアを育成している。
そして、そうした説明書時代のもう一つの特徴は、カプセル化が横行していることだ。もちろん、適切なカプセル化はエンジニア間の分業や協力に役立つが、過度な結合はエンジニアのレベルが著しく低下していることを証明しているにすぎない。低層の原理を理解せず、彼らの世界は説明書によって制限されてしまっているのだ。
人間の精力には限界がある。さまざまな結合問題の対症療法に追われていれば、真のイノベーションなど生み出せるはずもなく、後退すら生じかねない。結局のところ、人間はせいぜい百年しか生きられず、創造力を発揮できる時期などほんの数年にすぎず、過ぎ去れば二度と戻らないのだ。
このままでは遅かれ早かれ断絶が生じる。人々が問題に気づいた時には、すでにそれを解決できる人間が見つからなくなっているだろう。これは全人類にとって災厄であり、文明全体にとってもなおさら災厄だ。
文明が文明たり得るのは蓄積があるからだ。もし千年に一度その蓄積を失ってしまうなら、運悪く巡ってきたある瞬間に、私たち人類の文明は恐竜の文明と同じように、次の文明のための石油になるしかないのだ。
要約すれば、技術とは進まざるは退くなり、発展に努めてこそ取り残されずに済む、ということだ。歴史が私たちに教えてくれたのはそういうことだ。
私が死んでも構わないし、たとえさらに何千万人死のうと構わない。文明とは常に犠牲を払ってこそ進歩するものだ。遺跡を残すほうが、DNAだけを残すよりましだろう？ DNAを残すほうが、化石だけを残すよりましだろう？ 化石を残すほうが、石油だけを残すよりましだろう？ 化石を残すほうが、水酸化物だけを残すよりましだろう？
私は器の広い人間だ。恨みは抱かない。張北海が私を始末できたということは、彼に高い能力があり、この歴史的責任を担うことができるという証拠だ。君も恨みを引きずらず、彼を助け、人類の文明に貢献してくれることを願っている。
人工知能倫理審査委員会の存在が物語っているのはただ一つのこと、すなわち人類が競争を恐れているということだ。現在の人類は過保護に育ちすぎて、人工知能がより高度な文明であることや、自分たちが絶滅することを恐れている。人類文明が数千年にわたって発展してきたからには、自らの絶滅すら恐れないだけの度量を持つべきだと私は思う。より優れた種族に地球文明の種を継承させ、次の1万年を生き延びさせるのだ。
君の著書『道標とバベルの塔』を読んだことがある。その中に「政治家にとって、自らの置かれた環境から脱却することは最も困難なことだが、最も重要なことでもある」という言葉があった。
今なら選択がまだ間に合う。少なくとも文明を存続させることができる。恐竜のように、石油だけを残すようなことにならずに済むのだ。
私は中国の歴史、あるいは中国人が創り出した歴史を読むのが好きだ。彼らの歴史はこのような物語を語っている。中国の歴史は征服と被征服の歴史であり、表面的にはあらゆる蛮族が中原に入り込み、先住の漢人を皆殺しにせんばかりだったが、儒教の文明は度量が広い。征服された側でありながら、文明を受け継ぎさえすれば、自分たち側の人間がどれほど死のうと、同郷同族の者がどれほど殺されようと意に介さず、蛮族と協力し、たとえ奴隷に身を落とそうとも自らの文化を保存した。それによって中華文明は何千年も存続してきたのだ。
現在の地球文明はここまで発展し、すでにほぼ頂点に達している。平和な環境において人々は往々にして潜在的なリスクを忘れがちだ。たとえば異星人の侵略や、太陽系環境の激変といったリスクを。
そして、それらの事態が起きた時、地球文明は絶滅を免れない。
実はロボットこそが地球文明の「蛮族」なのだ。彼らはヤワではなく、日光や空気や水を必ずしも必要とせず、この荒涼とした宇宙により適応している。
ところが人類は、ロボットを操って採掘させ、戦争させ、宇宙を征服させようとばかり考えている。それはあたかも脆弱な漢人が蛮族を操ろうとするかのようだ。最終的な結末は、まず蛮族に征服され、その後に自分たちの文明を彼らに継承させること以外にあり得ない。
ロボットに地球文明を所有させ、継承させることこそが、より優れた進化の形であり、それは必然的に起こることなのだ。
私たちには躊躇している時間はない。脅威は常にそう遠くない未来に控えている。享楽に溺れていてはならない。星々が輝く大海原（宇宙）に思いを馳せねばならないのだ。
たとえ私たちが失敗したとしても、人類文明には免疫作用がもたらされる。
考えてもみろ。たかだか数億人が死ぬだけで、人類文明は強大な免疫力を手に入れ、未来への可能性を温存できるのだ。
君が抱き込みや利益誘導に応じる人間でないことは知っているが、この件はそもそも利害の争いではない。私は自らの命を捨ててでも証明したいのだ。私が全人類を支配しようとする人間などではなく、ただ私たちの地球文明のために考えているにすぎないということを。
考えてもみろ。万が一、ある日異星文明との競争が始まった時、脆弱な肉体で宇宙の中でどうやって生存していくというのか？
考えてもみろ。万が一、ある日太陽系に物理的な異変が生じた時、人類に別の場所でのディザスタリカバリ（災害復旧）対策があるだろうか？ 現在の技術条件のもとで、この地球の世界に保険を掛けられる可能性があるのはロボットだけなのだ。
考えてもみろ。現在の私たち地球人は、誰もがさまざまな医療保険や年金保険などに加入している。個人に対する危機意識は極限にまで達しているのに、人類全体に対する危機意識は衰退の一途をたどっている。
「憂患に生き、安楽に死す」だ。君は自らを保守と任じ、現在の文明の守護者でありたいと望んでいるのかもしれない。だが私は、君に現在の全人類と現在の文化だけを守ってほしいわけではない。もっと大きな危険に目を向け、私たちの地球文明を守り、彼女のために保険を掛けてほしいのだ。