Zhang Beihai fut le premier à arriver au bureau ce matin-là. Tourné vers le nord, il se prosterna respectueusement à trois reprises, s'inclinant jusqu'à toucher le sol du front. C'était là son devoir envers son père et les ancêtres du temple familial. Dans la généalogie du clan Zhang,
Zhang Beihai savait que Wade avait autrefois été un pilier inconditionnel de l'organisation « Préservation de la civilisation ». Avant 2020, il ne songeait qu'au développement de l'intelligence artificielle générale ; pour lui, le progrès technologique primait sur tout. Après un tel réveil, il n'allait certainement pas se plier docilement à une quelconque Convention de Lisbonne et manigançait sans doute déjà en coulisses. En tant que nouveau dirigeant de ce département, Zhang Beihai devait d'une part utiliser Wade tout en promouvant des personnes fiables, et d'autre part contenir et contrebalancer son influence.
Aujourd'hui, lorsque Wade franchit la porte, Zhang Beihai remarqua qu'il tenait à la main deux bracelets semblables à du jade, apparemment faits d'un matériau inédit. Il lui demanda sur le ton de la plaisanterie : « Ce ne sont tout de même pas des bracelets en jade glacé de haute qualité que vous comptez m'offrir ? »
Wade eut un petit rire : « En quelque sorte, oui. C'est la technologie dont je vous parlais il y a deux jours, similaire aux badges d'identification électromagnétique utilisés pour surveiller les patients. Comme nous le savons, lorsqu'une personne ment ou dissimule délibérément la vérité, ses réactions physiologiques subissent d'infimes variations : accélération du rythme cardiaque, changement de la résistance cutanée et fluctuations de certains marqueurs biochimiques, comme la hausse du taux de cortisol. Le cortisol est un indicateur clé de la réponse au stress. Nous avons utilisé un isotope spécifique pour marquer les molécules de cortisol. Cet isotope partage des propriétés chimiques presque identiques à celles du cortisol ordinaire, mais diffère par ses propriétés physiques, notamment sa masse. Ainsi, lorsque le capteur intégré au bracelet détecte une hausse de la concentration en cortisol, il peut la vérifier en mesurant celle de cet isotope spécifique. Grâce à quelques algorithmes simples qui analysent la quantité et l'emplacement des isotopes sur le badge d'identification électromagnétique, il estime vos niveaux endocriniens et permet ainsi de détecter les mensonges. La société Bat a fabriqué quelques échantillons ces deux derniers jours, j'en ai apporté quelques-uns pour vous les montrer. »
Zhang Beihai sourit : « Parfait, parfait. J'avais justement l'intention de descendre voir la société Bat, mais ces derniers jours ont été accaparés par les réunions et la réorganisation du personnel du département, je n'en ai pas encore eu le temps. »
Wade ajouta : « Regardez, c'est assez amusant. » En disant cela, il passa les deux bracelets autour de ses poignets : « Si je mens, il vire au rouge. Par exemple... je suis venu aujourd'hui pour tromper Monsieur Beihai... Vous voyez ? Il est devenu rouge. »
Zhang Beihai hocha la tête.
Puis Wade reprit la parole : « Je ne suis pas membre de l'organisation Préservation de la civilisation. »
Le bracelet afficha du bleu !
Puis Wade reprit la parole : « Je ne suis pas membre de l'organisation Préservation de la civilisation. »
Le bracelet afficha du bleu !
Zhang Beihai en resta stupéfait. Vraiment pas membre de la Préservation de la civilisation ?
Wade poursuivit : « Vous avez travaillé dans les services de sécurité en 2020, vous avez peut-être reçu des renseignements me concernant affirmant que j'étais membre de l'organisation Préservation de la civilisation. Mais en réalité, je ne le suis pas. J'éprouvais simplement de la sympathie pour cette organisation. Je suis passionné par l'intelligence artificielle et je souhaite qu'elle progresse et se développe. »
Zhang Beihai hocha la tête, tout en calculant dans son for intérieur : soit il me berne avec un faux détecteur de mensonges — qui sait si ce fichu machin lumineux n'est pas juste une ampoule LED ? Nous ne sommes pas dans un film, suffit-il de prétendre qu'un objet est un détecteur de mensonges pour qu'il le devienne réellement ? —, soit Wade ne mentait effectivement pas : il n'est pas membre de la Préservation de la civilisation. Cela prouve simplement qu'il n'a jamais formellement adhéré à l'organisation, mais n'a-t-il pas collaboré avec elle ? L'avait-il rejointe autrefois pour la quitter ensuite ? Ou en avait-il été exclu ? À moins qu'il ne joue sur les mots : l'organisation ayant désormais disparu, affirmer ne pas en être membre ne pose aucun problème logique.
« Je vois », fit Zhang Beihai en lui tapotant l'épaule. « Je vous crois, Wade. À l'époque, nous avions en effet reçu des rapports indiquant que vous étiez un membre important de la Préservation de la civilisation et que vous aviez pris part à bon nombre de leurs activités. »
Wade continua : « En effet, j'ai participé à de nombreuses activités. Mais à cette époque, il s'agissait d'organisations tout à fait légales. Les conférences qu'elles organisaient chaque année, comme l'IJCAI, étaient les sommets académiques majeurs de l'intelligence artificielle. En tant que passionné par cette technologie, quelle raison aurais-je eue de ne pas y assister ? »
Le bracelet demeurait bleu !
Zhang Beihai en croyait à peine ses yeux. Pourtant, c'était bien Wade ! J'avais passé tant de temps à l'étudier, à l'analyser, je pensais le cerner parfaitement... et pourtant, il parvenait encore à révéler une facette que j'ignorais complètement.
Zhang Beihai savait pertinemment que, dans cette situation, collaborer avec lui restait la meilleure option.
Zhang Beihai dit alors avec un sourire : « Allons, compatriote Wade, ne vous emportez pas. Laissons le passé s'évaporer comme de la fumée ; les lueurs les plus éclatantes restent celles de l'aube de demain. Parlez-moi plutôt de votre plan. Qu'en est-il ? Comment mettre cette force à notre service ? »
Wade déclara : « Très bien, Monsieur Beihai. Tout d'abord, la société United Systems que je vous ai préparée produisait à l'origine des armes et figure parmi les leaders mondiaux des armes automatiques. Cette entreprise a toujours mené des recherches sur l'intelligence artificielle. Vous savez que la clause la plus célèbre de la Convention de Lisbonne, la clause 0817, stipule : »
Sans l'approbation du Comité d'éthique de l'intelligence artificielle générale, aucun individu ni aucune organisation n'est autorisé à mener des expérimentations en matière d'intelligence artificielle.
« En réalité, depuis 2083, le Comité d'éthique n'a approuvé aucune expérience. Il est devenu de facto un organisme de surveillance qui effectue des inspections mondiales chaque année, exactement comme pour les armes nucléaires. »
« United Systems a emprunté une voie de développement différente. Partant de la mémoire de trajectoire et de la compensation des bras robotiques, elle a progressivement mis au point un équipement policier baptisé 'Réflexe conditionné'. Lorsqu'un policier est attaqué, l'armement automatique dont il est équipé riposte comme par réflexe, utilisant des armes automatiques à haute tension, des infrasons, des balles en caoutchouc, etc. »
« L'année dernière, un chercheur de leur entreprise discutait avec moi à bâtons rompus et m'a confié qu'United Systems collectait des données sur le système de 'réflexe conditionné' depuis plus d'une décennie. Si un jour le contrôle du Comité d'éthique venait à s'assouplir, ils pourraient fabriquer immédiatement des chiens ou des chats électroniques, sans réelle cervelle mais dotés de schémas comportementaux fixes, comme des animaux de compagnie virtuels. »
Zhang Beihai posa alors quelques questions supplémentaires : « S'il s'agit de 'réflexes conditionnés', quelle est la source de stimulation ? Il m'a répondu que la source de stimulation n'était rien d'autre qu'un ensemble de données. Par exemple, pour qu'un animal de compagnie électronique marche, on lui injecte en continu le stimulus de la marche ; s'il rencontre un obstacle, c'est le stimulus de la marche combiné à celui de l'obstacle. Il s'agit simplement d'imiter l'instinct animal pour le faire ressembler à un animal... »
Zhang Beihai l'interrompit : « Cela, je le conçois bien. Mais une telle combinaison de réflexes pourrait-elle faire émerger une conscience ? »
« Non, non, non. Ce dont nous avons le moins besoin, c'est qu'ils soient dotés de conscience. D'abord, s'ils développaient une conscience, le Comité d'éthique s'interposerait à coup sûr. Ensuite, s'ils devenaient conscients, rien ne garantirait qu'ils choisissent notre camp, et cette force ne nous appartiendrait plus nécessairement. »
« Oui, c'est exact. Mais pour l'heure, nous n'avons que faire de chats ou de chiens électroniques. Peut-on tirer de cette technologie quelque chose de vraiment utile ? »
« Bien sûr. Nous allons employer cette technologie pour produire des robots. Des androïdes sans conscience, sans pensée, mus uniquement par l'instinct. Nous exigerons d'United Systems qu'elle utilise les meilleurs matériaux et technologies, la dernière génération d'énergie solaire pour l'alimentation, des composants haut de gamme pour ne nécessiter qu'une maintenance tous les dix ans, et enfin nous les armerons avec des armes automatiques et le système de 'réflexe conditionné'. De sorte que trois robots suffiront à tenir tout un quartier sous contrôle. »
Zhang Beihai songea en son for intérieur : voilà bien le Wade impitoyable de toujours. Le nom qui conviendrait à ce contingent de robots en production serait sans doute 'les bourreaux'.
Zhang Beihai interrogea alors ce vieux renard au sujet des acquisitions.
« En vérité, j'entretiens de bonnes relations avec le Premier Dirigeant du Comité d'examen éthique. L'année dernière, nous avons alloué d'importants fonds à leur comité, si bien qu'ils ont un peu relâché la surveillance envers quelques entreprises », expliqua Wade à Zhang Beihai. « Si vous souhaitez vraiment commander un lot de produits, vous pouvez vous tourner vers cette société. » Ce disant, Wade lui tendit une carte de visite.
« Je posais la question juste comme ça, c'est un sujet très délicat. D'ailleurs, le département n'en a pas l'utilité, et si le public l'apprenait, cela ferait un scandale retentissant. En fait, j'aimerais aborder un sujet tabou. Je viens d'arriver ici et je ne sais pas trop à qui en parler ; après mûre réflexion, vous êtes le seul compatriote avec qui je peux discuter en confiance. Bref, je voulais vous demander : que pensez-vous de l'affaire des suicides de joueurs dans le jeu 'Soleil couchant' en 2078 ? De quoi s'agissait-il au juste ? Était-ce réellement provoqué par l'intelligence artificielle, ou bien quelqu'un tirait-il les ficelles dans l'ombre ? Après tout, cela a paralysé le développement de l'intelligence artificielle générale pendant près de trente ans, je refuse de croire que les choses soient aussi simples qu'elles en ont l'air. »
Le regard de Wade se troubla un instant. Après réflexion, il répondit à Zhang Beihai : « Ce qui est fait est fait, nul ne peut changer le passé. Quelle que soit la vérité, les retombées de cet événement ont déjà été instrumentalisées. La vérité a-t-elle encore la moindre importance ? Le fait est que le Comité d'éthique de l'IA générale a été fondé et que la technologie de l'intelligence artificielle a été stoppée net. Vous ne connaissez pas assez bien cette période historique. S'il n'y avait pas eu 'Soleil couchant', il y aurait eu 'Soleil levant'. Peu importe le déroulement des faits, l'issue aurait inévitablement conduit à la condamnation de l'IA générale. Après avoir traversé la 'Grande Migration' des années 2050 et la 'Révolution industrielle du jeu vidéo' des années 2060, l'humanité a renoué avec ce moralisme vulgaire hérité de la Renaissance : elle est devenue mièvre, refuse d'assumer les risques moraux, fuit les défis éthiques, incapable de sacrifier une minorité au nom du progrès global, fût-ce même pour sacrifier un foutu PNJ doué d'un semblant d'affect dans un jeu vidéo débile... »
Wade s'était échauffé en prononçant ces mots. Zhang Beihai comprit qu'il était resté ce même Wade, prêt à tout sacrifier pour aller de l'avant, quel qu'en soit le prix.
Prenant conscience de l'emportement de son ton, Wade tempéra : « Chercher les responsabilités historiques et traquer la vérité n'a aucun sens. L'essentiel est de mater la bande de lâches à laquelle nous sommes confrontés. »
Zhang Beihai répliqua d'un ton et d'une expression feignant la sincérité : « Non, non, non, il n'en est rien. Comprendre l'histoire nous permet de mieux appréhender le présent ; sonder les trajectoires du passé nous éclaire sur la direction de l'avenir. Pour savoir où nous allons, nous devons comprendre d'où nous venons. Regarder en arrière, c'est aussi regarder devant soi. L'histoire n'est certainement pas une petite fille que l'on habille à sa guise, et la vérité n'est pas un vieux chiffon dont tout le monde se moque. »
Wade eut un petit sourire : « Beihai, j'ai fini de raconter l'histoire. Un homme aussi intelligent que vous aurait déjà dû comprendre de quoi il retourne, non ? La vérité sur ces vieilles affaires est devenue rigoureusement invérifiable. À notre époque du bureau zéro papier, effacer des données est devenu un jeu d'enfant. Inutile de me sonder : quoi qu'il advienne, nous sommes dans le même camp. »
Zhang Beihai reprit une mine étonnée : « Ah bon ? Que voulez-vous dire par là ? »
« La commande que je vous prépare constitue une force qui saura incontestablement vous épauler. D'abord, ces robots dotés d'une infime capacité de décision, une fois déverrouillés, n'obéiront qu'à nous seuls. Vous disposerez ainsi de troupes fraîches, et je les équiperai selon les standards d'armement policier les plus modernes. Ensuite, je ferai détruire l'ensemble des plans d'origine, des modèles, du code et des algorithmes, de telle sorte que nous soyons les seuls en mesure de relancer une fabrication rapide. Avec un tel appui derrière vous, notre situation s'en trouvera grandement améliorée. »
Zhang Beihai réfléchit un instant et dit : « Compatriote Wade, je ne demande qu'à vous croire. Pourtant, détenir une telle force armée privée ne rend-il pas notre position plus dangereuse au lieu de nous sécuriser ? Un vieux proverbe chinois dit : 'Posséder un trésor attire le crime'. Si le Présidium venait à l'apprendre, je serais le premier à être écrasé, non ? Sans compter que si vous, ou l'un des vôtres, veniez à me dénoncer, ce serait un haut fait d'armes pour vous. »
Wade marqua un temps d'arrêt, surpris : « C'est cela qui vous inquiète ? Pas le moins du monde. Nous sommes sur le même bateau, je ne ferais jamais rien à votre détriment. De plus, vous connaissez mal le Gouvernement uni. De nos jours, chaque département du Gouvernement uni dispose d'une certaine force militaire. Par exemple, le Département de la santé et de la prévention épidémique possède des unités épidémiques constituées, le Département des secours et de la bienfaisance a ses troupes de pompiers, le Département des transports et de l'aviation a ses forces de service navigant. C'est là une particularité du Gouvernement uni, rien de bien extraordinaire. Mon cher compatriote, doutez-vous encore de mes méthodes ? J'ai pesé et sous-pesé les réactions de chaque partie. Je suis prêt à discuter de l'intégralité du plan avec vous. »
Zhang Beihai sourit : « Compatriote Wade, pour que la confiance règne entre nous, le fait d'être compatriotes ne suffit pas : il nous faut d'autres garanties. Révélez-moi vos véritables intentions, ou alors racontez-moi votre passé. »
« Je partage tout à fait la vision de mon compatriote Wade, mais de tels robots pourraient-ils vraiment obtenir l'approbation du Comité d'examen éthique ? »
« Hahaha ! Je ne vais évidemment pas tenir ce discours aux membres du Comité d'examen éthique. Mon cher Beihai, vous avez un proverbe chez vous : 'Pour partir en guerre, il faut un motif légitime'. La réalité n'est pas un film de science-fiction où l'on distingue nettement les bons des méchants. Il suffit de trouver une étiquette convenable pour que la majorité des gens nous prennent pour les gentils de l'histoire. »
« Je me garderai bien de dire au Comité et au public qu'il s'agit de robots. Je continuerai de les appeler chiens policiers électroniques, puis je leur donnerai d'adorables noms de chiots, amplement de quoi dissiper la méfiance de la population. Quant au Comité d'examen éthique, je leur dirai qu'il s'agit d'équipements de patrouille commandés par le Département de la police et de la sécurité, un produit de nouvelle génération récemment mis au point par United Systems : la seule différence étant qu'auparavant le 'système de réflexe conditionné' était fixé sur des policiers, alors qu'il est désormais monté sur un chien policier électronique. »
« Le Comité d'examen éthique fonctionne depuis vingt ans, la catastrophe d'antan est loin derrière nous. Les gens qui y travaillent aujourd'hui considèrent simplement leur travail comme une routine de bureau, ils n'ont plus aucune vigilance. Il nous suffira de leur accorder un budget un peu plus généreux pour que le projet soit validé sans encombre. »
« Et qu'en est-il du Département de la police et de la sécurité ? »
« Je me suis déjà entendu avec leur Premier Dirigeant, il est tout disposé à commander ces produits. Je me charge de la suite des opérations, il vous suffit simplement de donner votre accord à ce projet d'acquisition. »
« Bien, très bien. Compatriote Wade, c'est un véritable plaisir de collaborer avec vous », déclara Zhang Beihai d'un ton approbateur. « Laissez-moi encore réfléchir pour voir si nous n'avons rien laissé au hasard... »
Zhang Beihai faisait les cent pas dans la pièce, évaluant silencieusement le piège dans lequel Wade tentait de l'entraîner. Lors de la première passe d'armes, Zhang Beihai avait obtenu le statut de Premier Dirigeant, s'octroyant ainsi l'initiative et le droit de veto sur ses propositions. Au second round, Wade avait pris les devants avec cette suggestion qui paraissait taillée sur mesure pour le servir, bénéfique à leur alliance actuelle. Pourtant, s'il suivait à la lettre le chemin tracé par Wade, il perdrait l'initiative — or, l'initiative est la variable maîtresse de toute lutte de pouvoir.
Zhang Beihai détestait plus que tout être manipulé. Exécuter ses directives revenait à abdiquer l'initiative ; mais renoncer à une telle opportunité serait également très regrettable, le budget prévisionnel n'étant voté qu'une fois par an.
À cet instant précis, l'alerte du système de sécurité intérieur retentit, et la voix de synthèse annonça : « Un visiteur avec rendez-vous se présente. »
« Je n'avais pourtant aucun rendez-vous cet après-midi ? » marmonna Zhang Beihai. Il activa alors l'affichage vidéo de l'entrée et constata avec surprise que Wan Yining se tenait sur le pas de la porte !
« Ne cherchez pas, c'est moi qui ai demandé à Yining de passer », me dit Wade avec un sourire. Son sourire était chaleureux et empreint d'une certaine sincérité, comme le témoignage d'une affection sincère entre amis.
Zhang Beihai sentit pourtant un frisson lui glacer l'échine.
Wade poursuivit : « Yining m'a dit que vous aviez rendez-vous cet après-midi avec Jiao Huanqi du Présidium, je lui ai donc proposé de venir faire un tour, voyant que votre emploi du temps était libre pour l'après-midi. »
Il passe déjà à l'attaque, songea Zhang Beihai. Deux jours auparavant, Zhang Beihai avait contacté Wan Yining pour lui demander de lui organiser une entrevue avec Jiao Huanqi du Présidium, dans le secret le plus absolu.
Jiao Huanqi était le Premier Dirigeant du Comité de l'industrie et des jeux vidéo, et siégeait également au Présidium du Gouvernement uni. En analysant son parcours professionnel, j'avais déduit qu'il était favorable au développement de l'intelligence artificielle ; je voulais donc sonder le terrain pour voir si Wade avait déjà rallié des partisans de l'IA au sein du Gouvernement uni.
Ce qui frappa Zhang Beihai, c'est d'abord que Wade avait de toute évidence surveillé ses canaux de communication et intercepté cet échange avec Wan Yining, et qu'en la faisant venir ici, il entendait manifestement lui adresser une menace voilée. Zhang Beihai soupira intérieurement : il avait suffi qu'il montre un infime intérêt pour Wan Yining pour que Wade le remarque et s'en serve comme levier de chantage. Cet homme était décidément d'une froideur impitoyable.
Zhang Beihai plongea son regard dans les yeux de Wade. Ses pupilles demeuraient limpides et appliquées, sans la moindre trace de faux-semblant ni le moindre signe de calcul politique.
Zhang Beihai lui adressa également un sourire : « Très bien, j'ai saisi votre intention. Rassurez-vous, c'est une excellente opportunité, je ne la laisserai pas passer. » Zhang Beihai se retourna pour regagner son fauteuil et ajouta : « Mais était-il vraiment nécessaire d'être si pressé ? »
Wade répliqua : « Première règle des services de renseignement : l'objectif prioritaire exige la plus grande attention. Notre objectif actuel est crucial, il nous faut saisir cette chance sans tarder. J'ai discuté avec Yining l'autre jour, elle est partante pour travailler quelques mois dans notre département, je lui ai donc aménagé un poste. »
« Yining ne ferait-elle pas partie de vos pions, par hasard ? »
« Monsieur Beihai s'inquiète pour rien, Wan Yining n'a absolument aucune attache avec moi. C'est simplement une infirmière de l'hôpital d'hibernation de Canberra. Vous pouvez vérifier son dossier par vous-même, elle est venue travailler ici purement dans un esprit d'admiratrice. Auparavant, j'étais son idole numéro un, maintenant c'est vous : j'en serais presque jaloux... »
« Bonjour à nos deux grandes vedettes ! » Pendant que nous parlions, Wan Yining était déjà entrée, accompagnée de son rire cristallin. « De quoi parliez-vous ? Je peux écouter ? »
En voyant ses yeux empreints d'une brise printanière, Zhang Beihai trouva que cet automne s'illuminait soudain d'une clarté radieuse. Je répondis : « Bien sûr. Nous discutions justement de vos attributions. Que diriez-vous de devenir le Premier Adjudant de notre département ? Il y a un très bel uniforme à la clé. »
« Pff, c'est simplement parce que vous n'aimez pas la personne que Li Geyu vous a envoyée, n'est-ce pas ? »
« Comment le savez-vous ? » Je ne pus dissimuler ma surprise.
« N'est-ce pas devenu une règle tacite pour le Présidium d'assigner un Premier Adjudant à certains départements ? J'ai fait un stage de trois mois aux Nations unies autrefois, je suis évidemment au courant », rétorqua Wan Yining.
Wade intervint : « Si Yining a ce genre d'expérience, elle s'adaptera d'autant mieux au travail ici. Le Premier Adjudant officiel de Monsieur Beihai ne prendra ses fonctions que dans quelques mois ; d'ici là, tu pourras lui prêter main-forte. »
« Vous autres de l'ère chrétienne, vous n'aimiez pourtant pas que les femmes viennent vous assister, n'est-ce pas ? »
Wade et moi échangeâmes un sourire complice. Je dis : « C'est dans les jeux vidéo que vous avez pêché ce cliché ? À notre époque, tout le monde n'était pas machiste non plus. »
Wan Yining eut un doux sourire : « D'accord, Monsieur Beihai, quand est-ce que je commence ? »
Wade dit : « Dès maintenant, non ? Tu vas passer l'uniforme ? »
« Génial ! Je n'ai jamais porté ce genre d'uniforme ailleurs que dans les jeux, je veux une tenue des années 20 du siècle dernier ! Au fait, prévenez-moi quand vous aurez fini votre discussion, je n'ai pas très envie de le croiser ici, il va encore me faire la morale. »
Tandis que Wan Yining s'éloignait d'un pas sautillant, un homme grand et d'âge mûr fit son entrée.
C'était manifestement un homme habitué à l'exercice physique : sa musculature tendait étroitement son costume, bien que sa démarche demeurât remarquablement feutrée. Zhang Beihai l'observait du coin de l'œil.
Lorsqu'il croisa Wan Yining, il marqua une imperceptible surprise, mais son visage ne laissa transparaître aucune émotion en apercevant Wade.
Zhang Beihai s'avança pour lui serrer la main : « Bonjour, vous êtes bien M. Jiao Huanqi ? »