Ein Brief an Lu Youqi
Du weißt mit Sicherheit, was ich will, und ich weiß auch, was du denkst.
Richtig, das wird ein technologisches Wettrüsten auslösen. Die Auswirkungen der Technologie auf die Gesellschaft sind unumkehrbar, und die offiziellen Stellen werden in diesem Wettrüsten zweifellos den Sieg davontragen; das sagt mir bereits der gesunde Menschenverstand aus meiner Ära.
Die Welt betrachtet einen solchen Zustand als Teufelswerk, als würde ein solcher technologischer Wettbewerb augenblicklich dazu führen, dass ein Verrückter die ganze Welt ins Chaos stürzt, oder dass jemand mithilfe noch mächtigerer, monopolisierter Technologie die gesamte Menschheit unterwirft.
Doch wir müssen diese Welt aus einer viel größeren Perspektive betrachten; wir müssen dieser Welt eine Chance geben.
Diese Welt ist wohl die beste, die ich mir vorstellen kann, doch unter der ruhigen Oberfläche brodeln Unterströmungen, und die Gefahr lauert im friedlichen Alltag.
Ich weiß, dass du dich schon lange mit der Wertorientierung von Technologie beschäftigst, doch vielleicht hast du eine bestimmte Tendenz übersehen: das Vergehen von übermäßig komplex gewordener Technologie. Obwohl ich aus der Ära der christlichen Zeitrechnung stamme, kann selbst ich erkennen, wo das Problem liegt.
Ich erinnere mich noch daran, als ich gerade aus dem Kälteschlaf erwachte und an einer Wand in meiner Wohnung ein Schmutzfleck auftauchte. Eigentlich wollte ich nur den Kundendienst rufen, um ihn entfernen zu lassen, doch der Techniker konnte das Problem einfach nicht lösen und hätte dabei beinahe meine ganze Wohnung zerlegt.
Nach dem gesunden Menschenverstand meiner Zeit ist ein komplexes System nicht zerbrechlich, sondern robust. Meine Intuition sagt mir also, dass ein bestimmter Wendepunkt erreicht ist.
Wenn es an großen technologischen Innovationen fehlt, neigen Techniker dazu, bestehende Technologien neu zu arrangieren und zu kombinieren, um sie zwecks Problemlösung immer komplexer zu machen. Das hat dazu geführt, dass alles, was wir nutzen, technologisch und prozessual immer komplizierter wird. Kein einziges Produkt kann noch von ein oder zwei Ingenieuren vollständig durchdrungen werden, und ein gewöhnlicher Techniker ist schlichtweg außerstande, das gesamte Grundlagenwissen über ein Produkt zu beherrschen. Jeder lernt nur noch empirisches Wissen über ein spezifisches Produkt – und obwohl dieses Wissen gewaltig erscheint, ist es in den meisten Fällen völlig nutzlos.
Es ist, als würde man tausend Packungsbeilagen von Medikamenten lesen: Man wird dadurch trotzdem kein Pharmazie-Experte. Doch heute bildet die gesamte Menschheit ihre Ingenieure mit genau solchen Packungsbeilagen aus.
Ein weiteres Merkmal dieses Zeitalters der Packungsbeilagen ist der Siegeszug der Kapselung. Natürlich begünstigt eine angemessene Kapselung die Arbeitsteilung und Zusammenarbeit unter Ingenieuren; eine übermäßige Kopplung zeigt jedoch nur, wie drastisch das Niveau der Ingenieure gesunken ist. Sie verstehen die zugrunde liegenden Prinzipien nicht mehr, und ihre Welt wurde durch Packungsbeilagen eingeengt.
Die Energie des Menschen ist stets begrenzt. Wenn man sich darin verstrickt, ständig irgendwelche Kopplungsprobleme zu flicken, lassen sich echte Innovationen nicht mehr hervorbringen – es kommt sogar zu Rückschritten. Schließlich lebt der Mensch nur hundert Jahre, und die schöpferische Phase dauert nur wenige Jahre; ist sie vorbei, kehrt sie nie wieder.
Geht es so weiter, wird es früher oder später zum Bruch kommen. Wenn die Menschen das Problem bemerken, wird es niemanden mehr geben, der es lösen kann. Das ist eine Katastrophe für die gesamte Menschheit, und für die gesamte Zivilisation erst recht.
Dass eine Zivilisation überhaupt eine Zivilisation sein kann, verdankt sie der Akkumulation. Wenn wir alle tausend Jahre das Angesammelte verlieren, wird unsere menschliche Zivilisation in einem unglücklichen Moment letztlich genau wie die Zivilisation der Dinosaurier enden – und lediglich zum Erdöl für die nächste Zivilisation werden.
Zusammenfassend lässt sich sagen: Wer bei der Technologie nicht voranschreitet, fällt zurück; man muss sich unermüdlich weiterentwickeln, um nicht ins Hintertreffen zu geraten – das lehrt uns die Geschichte.
Dass ich sterbe, spielt keine Rolle, und selbst wenn weitere Abermillionen sterben, ist das unerheblich. Eine Zivilisation fordert stets Menschenleben, um Fortschritt zu erzielen. Relikte zu hinterlassen ist doch besser, als nur DNA zu hinterlassen, oder? DNA zu hinterlassen ist besser, als nur Fossilien zu hinterlassen, oder? Fossilien zu hinterlassen ist besser, als nur Erdöl zu hinterlassen, oder? Und Fossilien zu hinterlassen ist immer noch besser, als wenn nur Hydroxide übrigbleiben, nicht wahr?
Ich bin ein großmütiger Mensch und trage nichts nach. Dass Zhang Beihai mich ausschalten konnte, beweist seine außergewöhnlichen Fähigkeiten und dass er diese historische Verantwortung tragen kann. Ich hoffe, auch du hegst keinen Groll, stehst ihm zur Seite und leistest deinen Beitrag zur Zivilisation der Menschheit.
Die Existenz des Ethikprüfungsausschusses für Künstliche Intelligenz beweist nur eines: die Furcht der Menschheit vor dem Wettbewerb. Die heutigen Menschen sind viel zu verweichlicht; sie fürchten, dass die künstliche Intelligenz eine fortgeschrittenere Zivilisation darstellt, und sie fürchten ihre eigene Auslöschung. Ich finde, nach Tausenden von Jahren der Entwicklung sollte die menschliche Zivilisation zumindest die Größe besitzen, keine Angst vor dem eigenen Aussterben zu haben – und einer überlegeneren Spezies erlauben, die Saat der irdischen Zivilisation zu erben und die nächsten zehntausend Jahre zu überdauern.
Ich habe dein Werk „Wegweiser und der Turmbau zu Babel“ gelesen. Darin gibt es einen Satz: „Für einen Politiker ist es das Schwerste, über das eigene Umfeld hinauszuwachsen, aber es ist zugleich das Wichtigste.“
Noch ist Zeit für eine Entscheidung – zumindest würde die Zivilisation so fortbestehen und nicht wie die Dinosaurier enden, von denen nur Erdöl geblieben ist.
Ich lese gerne chinesische Geschichte oder die von Chinesen geschaffene Geschichte. Ihre Geschichte erzählt folgende Episode: Die Geschichte Chinas ist eine Geschichte von Eroberung und Unterwerfung. Oberflächlich betrachtet konnten verschiedenste Barbarenvölker in die Zentralebene einfallen und die ansässigen Han-Chinesen nahezu abschlachten. Doch die konfuzianische Zivilisation war weitherzig: Sie war zwar die Unterworfene, aber solange sie das Erbe der Zivilisation bewahren konnte, kümmerte es sie nicht, wie viele eigene Menschen starben oder wie viele Landsleute und Sippenmitglieder ermordet wurden. Stattdessen kooperierte sie mit den Barbaren, und selbst wenn sie zu Sklaven wurden, bewahrten sie ihre Kultur – und genau das ließ die chinesische Zivilisation über Jahrtausende hinweg fortbestehen.
Die gegenwärtige irdische Zivilisation hat mit ihrer Entwicklung beinahe ihren Zenit erreicht. In einer friedlichen Umgebung neigen die Menschen dazu, potenzielle Risiken zu vergessen – wie etwa eine außerirdische Invasion oder abrupte Veränderungen in der Umwelt des Sonnensystems.
Und sollten solche Dinge eintreten, wird die irdische Zivilisation ihrer Auslöschung kaum entgehen können.
Tatsächlich sind die Roboter die Barbaren der irdischen Zivilisation: Sie sind nicht verweichlicht, nicht zwingend auf Sonnenlicht, Luft und Wasser angewiesen und weitaus besser an dieses unbarmherzige Universum angepasst.
Die Menschen hingegen sinnen stets darauf, Roboter zu kontrollieren, um Rohstoffe abzubauen, Kriege zu führen und das Universum zu erobern – genau wie die geschwächten Han-Chinesen einst die Barbaren kontrollieren wollten. Das Endresultat kann nur sein, dass sie zuerst von den Barbaren unterworfen werden und diese danach deren Zivilisation weitertragen.
Robotern zu erlauben, die irdische Zivilisation in Besitz zu nehmen und fortzuführen, ist der überlegenere Weg der Evolution – und er wird unausweichlich eintreten.
Wir haben keine Zeit mehr zu zögern. Die Bedrohung lauert beständig in nicht allzu ferner Zukunft; wir dürfen uns nicht dem Vergnügen hingeben, sondern müssen nach den Sternen und den Weiten des Alls streben.
Selbst wenn wir scheitern sollten, wird dies wie eine Immunisierung für die menschliche Zivilisation wirken.
Bedenke es doch: Es sterben bloß ein paar hundert Millionen Menschen, und schon erlangt die menschliche Zivilisation eine gewaltige Immunität und bewahrt sich die Möglichkeiten der Zukunft.
Ich weiß, dass du dich weder vereinnahmen noch bestechen lässt, doch hier geht es nicht um Vorteilsstreitigkeiten. Ich bin bereit, mein Leben hinzugeben, um zu beweisen, dass ich kein Herrscher über die gesamte Menschheit sein will; ich sorge mich einzig und allein um unsere irdische Zivilisation.
Denk doch mal nach: Wenn eines Tages die Konkurrenz einer außerirdischen Zivilisation auf den Plan tritt – wie soll ein zerbrechlicher Körper aus Fleisch und Blut im Weltall überleben?
Denk doch mal nach: Wenn es im Sonnensystem eines Tages zu physikalischen Katastrophen kommt – hat die Menschheit dann Vorkehrungen für eine standortunabhängige Notfallwiederherstellung getroffen? Unter den gegenwärtigen technologischen Bedingungen sind einzig Roboter in der Lage, für diese Welt eine Absicherung zu schaffen.
Denk doch mal nach: Jeder Mensch auf unserer heutigen Erde schließt alle möglichen Kranken- und Rentenversicherungen ab. Das Risikobewusstsein für das Individuum ist bis ins Äußerste getrieben, doch das Gefahrenbewusstsein für die Menschheit als Ganzes schwindet immer mehr.
In der Not wächst das Leben, im Wohlstand lauert der Tod. Ich weiß, du siehst dich vielleicht selbst als konservativ und möchtest als Hüter der gegenwärtigen Zivilisation fungieren. Doch ich verlange von dir nicht, lediglich die heutige Menschheit und die heutige Kultur zu beschützen, sondern die noch größeren Gefahren zu erkennen, unsere irdische Zivilisation zu bewahren und eine Absicherung für sie zu schaffen.