Une lettre à Lu Youqi
Tu sais certainement ce que je veux, et je sais aussi ce que tu penses.
C'est exact, cela déclenchera une course aux armements technologiques. L'impact de la technologie sur la société est irréversible, et les autorités remporteront à coup sûr cette course aux armements ; le simple bon sens de mon époque me suffit pour connaître la réponse.
Le monde entier considère cette situation comme une abomination, comme si dès qu'une telle compétition technologique survenait, un fou plongerait le monde entier dans le chaos, ou quelqu'un utiliserait une technologie plus puissante et monopolistique pour asservir l'humanité.
Mais nous devons regarder ce monde avec une perspective plus vaste ; nous devons lui donner une chance.
On pourrait dire que ce monde est le meilleur que je puisse imaginer, mais sous le calme apparent se cachent des courants sous-jacents, et le danger se dissimule dans la douceur du quotidien.
Je sais que tu as toujours étudié les tendances de valeur de la technologie, mais tu as peut-être négligé une certaine tendance : la disparition des technologies devenues trop complexes. Même si je viens de l'ère de l'ère chrétienne, je parviens quand même à voir où réside le problème.
Je me souviens qu'à mon réveil d'hibernation, une tache est apparue sur le mur de chez moi. Je voulais simplement faire appel au service après-vente pour nettoyer, mais le technicien venu sur place n'arrivait pas à résoudre le problème et a failli démolir toute ma maison.
Selon le bon sens de mon époque, un système complexe n'est pas fragile, mais robuste ; mon intuition m'a donc dit qu'un certain moment était arrivé.
En l'absence d'innovations technologiques majeures, les techniciens ont tendance à combiner et réorganiser les technologies existantes, en les complexifiant pour résoudre les problèmes. Par conséquent, tout ce que nous utilisons devient de plus en plus complexe sur le plan technologique et des processus. Aucun produit ne peut être entièrement appréhendé par un ou deux ingénieurs, et les techniciens ordinaires sont totalement incapables de maîtriser l'ensemble des connaissances fondamentales d'un produit. Tout le monde n'apprend que des connaissances empiriques sur un produit donné, et bien que ces connaissances semblent vastes et denses, elles sont souvent inutiles en réalité.
C'est comme si, après avoir lu un millier de notices de médicaments, tu espérais devenir un expert en pharmacie : c'est impossible. Et pourtant, aujourd'hui, toute l'humanité forme ses ingénieurs à l'aide de telles notices.
Une autre caractéristique de cette ère des modes d'emploi est l'omniprésence de l'encapsulation. Certes, une encapsulation appropriée facilite la division du travail et la collaboration entre ingénieurs, mais un couplage excessif ne fait que démontrer la chute vertigineuse du niveau des ingénieurs, qui ne comprennent plus les principes sous-jacents ; leur monde a été enfermé dans des manuels d'instruction.
L'énergie humaine est toujours limitée. Si l'on reste coincé à bricoler pour corriger divers problèmes de couplage, la véritable innovation devient impossible, et cela peut même engendrer des régressions. Après tout, un être humain ne vit qu'un siècle, et les années de créativité se comptent sur les doigts d'une main ; une fois passées, elles ne reviennent plus.
En continuant ainsi, une rupture se produira tôt ou tard. Lorsque les gens découvriront les problèmes, ils ne trouveront plus personne capable de les résoudre. Ce sera un désastre pour l'humanité entière, et plus encore pour toute la civilisation.
Ce qui fait d'une civilisation ce qu'elle est, c'est l'accumulation. Si nous perdons cette accumulation tous les mille ans, alors, à un moment de malchance, notre civilisation humaine finira, tout comme celle des dinosaures, par ne devenir rien de plus que le pétrole de la prochaine civilisation.
Pour résumer, la technologie ne fait que régresser si elle n'avance pas ; il faut s'efforcer de progresser pour ne pas rester à la traîne, voilà ce que nous enseigne l'histoire.
Ma mort n'a aucune importance, et la mort de dizaines de millions d'autres personnes n'en a pas non plus. Pour qu'une civilisation progresse, des gens doivent mourir. Laisser des ruines ne vaut-il pas mieux que de ne laisser que de l'ADN ? Laisser de l'ADN ne vaut-il pas mieux que de ne laisser que des fossiles ? Laisser des fossiles ne vaut-il pas mieux que de ne laisser que du pétrole ? Laisser des fossiles ne vaut-il pas mieux que de ne laisser que des hydroxydes ?
Je suis un homme à l'esprit large, je ne garde pas de rancune. Si Zhang Beihai a pu m'éliminer, cela prouve qu'il a de grandes capacités et qu'il peut assumer cette responsabilité historique. J'espère que toi aussi tu sauras faire abstraction de toute rancœur, que tu l'aideras et que tu apporteras ta contribution à la civilisation humaine.
L'existence du Comité d'éthique de l'intelligence artificielle ne prouve qu'une chose : la peur de la concurrence qui anime l'humanité. Les humains d'aujourd'hui sont trop douillets ; ils craignent que l'intelligence artificielle soit une civilisation plus avancée, ils redoutent leur propre extinction. Je pense qu'après des milliers d'années de développement, la civilisation humaine devrait au moins faire preuve de la grandeur d'âme nécessaire pour ne pas craindre sa propre fin. Laissons une espèce plus remarquable hériter des graines de la civilisation terrestre et survivre jusqu'aux dix mille prochaines années.
J'ai lu ton ouvrage, « Balises et Tour de Babel », où il est écrit : « Pour un homme politique, le plus difficile est de s'extraire de son propre environnement, mais c'est aussi la chose la plus importante. »
Il est encore temps de choisir ; au moins, la civilisation perdurera, au lieu de ne laisser derrière elle que du pétrole, comme les dinosaures.
J'aime lire l'histoire de la Chine, ou l'histoire façonnée par les Chinois. Leur histoire raconte ceci : l'histoire de la Chine est une succession de conquêtes et de soumissions. En apparence, toutes sortes de peuples barbares ont pu s'emparer des plaines centrales et massacrer presque tous les Han d'origine. Pourtant, la civilisation confucéenne, avec sa grandeur d'âme, bien qu'étant la vaincue, ne se souciait guère du nombre de ses morts ou de ses compatriotes massacrés, tant qu'elle pouvait transmettre la civilisation. Elle a collaboré avec les barbares et, même réduite en esclavage, a préservé sa culture, permettant à la civilisation chinoise de perdurer pendant des millénaires.
Au point où elle est parvenue aujourd'hui, la civilisation terrestre a presque atteint son apogée. Dans un environnement paisible, les gens ont tendance à oublier les périls latents, comme une invasion extraterrestre ou un bouleversement soudain de l'environnement du système solaire.
Et lorsque ces événements surviendront, la civilisation terrestre n'échappera pas à l'extinction.
En réalité, les robots sont les barbares de la civilisation terrestre : ils ne sont pas délicats, ils n'ont pas nécessairement besoin de soleil, d'air ou d'eau, et ils sont bien mieux adaptés à cet univers sauvage.
Pourtant, les humains ne pensent qu'à asservir les robots pour miner, faire la guerre et conquérir l'univers, tout comme les fragiles Han voulaient contrôler les barbares. Le résultat inévitable ne peut être que d'être d'abord conquis par ces barbares, pour ensuite leur transmettre notre civilisation.
Laisser les robots s'approprier la civilisation terrestre et en hériter, voilà une voie d'évolution bien supérieure, et c'est inéluctable.
Nous n'avons plus le temps d'hésiter. La menace rôde dans un avenir proche. Nous ne pouvons pas nous complaire dans les plaisirs immédiats ; nous devons tourner nos regards vers la mer d'étoiles.
Même si nous échouons, la civilisation humaine en tirera une forme d'immunité.
Songez-y : ce ne sont que quelques centaines de millions de morts, et la civilisation humaine acquerra une immense immunité, préservant ainsi les possibles de l'avenir.
Je sais qu'on ne peut ni te rallier ni t'acheter, mais cette affaire n'est pas une lutte d'intérêts. Je suis prêt à renoncer à ma vie pour prouver que je ne cherche pas à devenir celui qui contrôle l'humanité tout entière : je n'agis que pour le bien de notre civilisation terrestre.
Songez-y : si un jour une compétition avec une civilisation extraterrestre se présentait, comment une chair aussi fragile survivrait-elle dans l'univers ?
Songez-y : si un jour le système solaire subissait un bouleversement physique, l'humanité disposerait-elle d'un plan de reprise d'activité sur un site distant ? Dans les conditions technologiques actuelles, seuls les robots pourraient souscrire une assurance pour ce monde terrestre.
Songez-y : aujourd'hui, chaque terrien a souscrit toutes sortes d'assurances maladie, d'assurances retraite, etc. La conscience du risque à l'échelle individuelle a atteint son paroxysme, mais la conscience du risque pour l'ensemble de l'humanité ne cesse de décliner.
On naît dans l'épreuve et l'on meurt dans la facilité. Je sais que tu te revendiques peut-être conservateur, désireux d'être le gardien de la civilisation actuelle. Mais je ne veux pas que tu te contentes de protéger l'humanité actuelle et sa culture du moment ; je veux que tu perçoives le plus grand danger, que tu protèges notre civilisation terrestre et que tu lui souscrives une assurance.