Zhang Beihai divenne senza intoppi il massimo dirigente del Dipartimento Relazioni Pubbliche e Supporto Logistico. Sapeva che si trattava di una posizione pericolosa quanto prestigiosa, ma non aveva più vie di ritirata tra cui scegliere; da un lato era felice di essere un dirigente di tale livello, dall'altro confidava nelle proprie capacità, sapendo bene come far fruttare la propria esperienza di gestione del potere.
Quindici giorni dopo iniziarono i lavori per il bilancio preventivo e consuntivo del successivo anno fiscale. Molte persone del settore dell'industria videoludica si recavano ogni giorno nell'ufficio di Zhang Beihai per tenere presentazioni promozionali e illustrare i loro prodotti più recenti, mentre altri provenienti da diversi dipartimenti facevano pressioni per questioni legate agli appalti.
Tuttavia, per diversi giorni consecutivi, tutto ciò che Zhang Beihai vide furono prodotti incentrati su simulazioni di politiche, analisi di dati sociali, valutazione del contesto di gioco e simili.
Quel giorno arrivò un altro gruppo, guidato dal presidente della Commissione per l'Intelligenza Artificiale. Quando si avvicinò a Zhang Beihai, questi notò che si trattava di un non vedente molto alto e robusto, che reggeva un dispositivo di assistenza per non vedenti ed era venuto a presentargli uno strumento di elaborazione file basato su espressioni regolari.
Zhang Beihai non poté fare a meno di chiedere ai partecipanti alla presentazione: "Non siamo forse già giunti al 2100? Dai documenti che ho consultato risulta che i prodotti di intelligenza artificiale hanno compiuto passi da gigante; perché allora i prodotti che mi presentate oggi sono ancora semplici strumenti di classificazione e statistica dei dati? Com'è possibile che non ci sia nulla di avanzato? Presidente Mantis, vedo che lei è a capo della Commissione per l'Intelligenza Artificiale: potrebbe spiegarmi il perché? A che punto è arrivata la nostra IA?"
Mantis accarezzò il dispositivo per non vedenti che teneva in mano, sollevò la testa e domandò: "Non conosce la Convenzione di Lisbona?"
"Si è sempre detto che lo sviluppo dell'intelligenza artificiale è sottoposto all'esame del comitato etico; quali sono le misure concrete corrispondenti?"
"Probabilmente non si rende conto di quanto sia rigida. Dalla rivoluzione dell'industria videoludica degli anni 2040, la tecnologia dell'IA ha fatto enormi progressi di pari passo con lo sviluppo del settore dei giochi. Molte software house desideravano rendere gli NPC più intelligenti, e le strade di ricerca per riuscirci erano molteplici; una di queste consisteva nell'introdurre una componente emotiva negli NPC. Uno studio di videogiochi chiamato 'Touma' si trovava all'avanguardia: introducendo il concetto di morte per gli NPC, fece sì che sviluppassero gradualmente un senso di paura, da cui poi scaturirono via via dolore, benessere e così via; con l'aggiunta di algoritmi euristici, gli NPC del gioco divennero davvero sempre più simili agli esseri umani. Nel 2077, lo studio 'Touma' introdusse per la prima volta tale tecnologia in un gioco intitolato 'Il sole si spegne', la cui trama era ambientata nel Giappone precedente alla Seconda guerra mondiale, con un NPC femminile di nome Shizuko Ota. Non appena uscì, tutti i giocatori maschi rimasero folgorati da Shizuko. Tuttavia, un anno dopo accaddero cose insolite: decine di migliaia di giocatori si suicidarono in successione nella foresta di Aokigahara, in Giappone, che era proprio il luogo in cui si concludeva una delle linee narrative di 'Il sole si spegne'. Questo evento sconvolse il mondo intero; basti pensare che all'epoca gli omicidi annuali non superavano qualche centinaio..."
A questo punto Mantis fece una pausa, sospirò e continuò: "Le indagini successive dimostrarono che era stata l'NPC Shizuko Ota a instillare nel gioco suggestioni psicologiche al suicidio in molte persone. Gli accertamenti proseguirono per diversi anni e, alla fine, i ricercatori non riuscirono a chiarire se fosse stata una casuale permutazione all'interno del corpus di Shizuko Ota a causare quell'esito, oppure se Shizuko Ota avesse davvero sviluppato un'autocoscienza e compiuto tale scelta."
Mantis guardò Zhang Beihai dritto negli occhi e disse: "All'epoca avevo ventidue anni ed ero anch'io un appassionato del gioco 'Il sole si spegne'; vissi molte volte storie d'amore travolgenti con Shizuko Ota. Ogni volta, nel gioco, lei alzava la testa, sorrideva e mi chiedeva: 'Mantis, mi ami? Portami via da qui, ti va?' All'epoca pensavo si trattasse solo di battute del copione. Ma più tardi, quando divenni un ricercatore di intelligenza artificiale e andai a verificare il suo corpus, scoprii che quella frase non vi compariva affatto."
Mantis rimase in silenzio per un istante: "A diciotto anni mi ero prefissato l'obiettivo di diventare un esperto di IA e di dedicare tutto il mio talento allo sviluppo dell'intelligenza artificiale generale. Ma a ventidue anni condivisi fino in fondo una frase dei redattori della Convenzione di Lisbona: 'Non dovremmo conferire con leggerezza sentimenti a un'altra entità, perché non si può sapere se ciò le arrecherà felicità o sofferenza'. Da quando la Convenzione di Lisbona è stata redatta ed è divenuta un consenso globale, la tecnologia dell'intelligenza artificiale generale è rimasta in uno stato di totale paralisi e i temi correlati sono diventati argomenti tabù. Il comitato di revisione etica compie ispezioni annuali su tutta l'industria videoludica e sui dipartimenti di ricerca proprio come si controllavano le armi nucleari nel XXI secolo, e la situazione dura ormai da oltre vent'anni."
Ascoltato il resoconto di Mantis, Zhang Beihai provò un vago senso di inquietudine: le cose stavano davvero in modo così semplice? Si era trattato solo di un incidente scientifico?
Zhang Beihai rifletté sul fatto che, a posteriori, quell'evento aveva favorito la nascita del comitato di revisione etica e represso di fatto lo sviluppo delle tecnologie di IA. Possibile che... quell'azione fosse stata orchestrata a suo tempo dalla nostra Agenzia? Dopotutto, l'Agenzia aveva sempre puntato a reprimere l'organizzazione 'Sopravvivenza della Civiltà' e a bloccare lo sviluppo dell'intelligenza artificiale. Tuttavia, se quell'evento fosse stato pianificato a tavolino, si sarebbe trattato a tutti gli effetti di un attentato terroristico su vastissima scala: spingere al suicidio decine di migliaia di persone in una sola volta aveva una portata letale migliaia di volte superiore a quella dell'11 settembre.
Mio Dio... A Zhang Beihai sembrò quasi di aver toccato il fulcro più profondo della questione: non si trattava di attriti tra civiltà, bensì... non ebbe il coraggio di continuare a pensarci.
All'improvviso Zhang Beihai sentì una miriade di congetture affollarsi nella mente e, facendosi forza, disse: "D'accordo, ne riparleremo la prossima volta; ora devo parlare con Wade."
Mantis sembrò percepire l'agitazione emotiva di Zhang Beihai; dietro gli occhiali scuri, i suoi occhi parvero aprirsi per assaporare il mutamento dell'espressione sul volto dell'interlocutore.
Mantis fu estremamente soddisfatto della propria osservazione. Si congedò in silenzio da quella figura potente e autorevole, sapendo che il generale Beihai avrebbe ignorato automaticamente la sua esistenza, considerandolo alla stregua di un NPC di un videogioco, un comprimario da copione, del tutto insignificante.
Ma il mondo reale non funziona come nei videogiochi: persino un modesto impiegato può rivelarsi la persona con il potere più grande in questa partita.
In una notte piovosa a Sydney, Mantis fece ritorno a casa.
Mantis prese una sedia e si sedette sul balcone, ascoltando in silenzio la pioggia battente sferzare i vetri delle finestre, gli alberi fuori dalla porta e questa Terra vecchia di miliardi di anni.
La notte era così cupa; Mantis ripercorse e fissò nella memoria, ancora e ancora, ogni singolo dettaglio dell'incontro avuto quel giorno con Zhang Beihai, volendo imprimerli alla perfezione per collegarli all'intero puzzle che custodiva nella mente.
Usare qualsiasi supporto materiale per registrare le proprie idee cruciali e le informazioni di intelligence comportava dei rischi; Mantis ne era perfettamente consapevole, perciò tutti i pezzi del mosaico risiedevano esclusivamente nella sua mente. Una sola copia, nessun altro archivio.
Mantis spense la luce del balcone, lasciandosi avvolgere completamente dal buio e dal temporale. Ora doveva esaminare alcuni documenti.
In qualità di presidente della Commissione per l'Intelligenza Artificiale, era tenuto a revisionare periodicamente i rapporti di valutazione dei dipartimenti competenti per adempiere ai propri doveri di supervisione.
A Mantis non interessava il contenuto di quei rapporti, che per lo più consistevano nei soliti schemi burocratici dei vari dipartimenti; il suo scopo era elaborare quei file all'interno della propria sandbox di analisi di intelligence, prendendo nota dello stile di scrittura, dei timestamp e di altri parametri.
Controllando i metadati del rapporto del dipartimento di Wade, Mantis notò con stupore che il campo della data presentava anomalie formali. Sebbene i sistemi di convalida del software mostrassero sempre qualche problema dopo ogni aggiornamento, lo sorprese il fatto che persino la convalida della data avesse fallito.
Proprio mentre stava per sorvolare su quell'errore, Mantis scoprì con sorpresa che anche il campo data del dipartimento di Jiao Huanqi risultava anomalo, come se mancassero alcune cifre.
Iniziò a esaminare la questione a fondo: per quale motivo mancavano alcune cifre? In linea teorica, quei metadati venivano generati automaticamente dai programmi; benché i vari software ingegneristici attuali mostrassero talvolta piccoli difetti, il problema in questione difficilmente poteva essere imputato a un banale bug del software. Non poteva forse trattarsi di un errore legato a un'espressione regolare impiegata per operazioni di ricerca e sostituzione di massa?
Un pensiero balenò nella mente di Mantis: cominciò a ipotizzare che qualcuno avesse cercato di cancellare in modo definitivo dal livello di storage i file contenenti una determinata parola chiave, ma l'espressione regolare del software di bonifica doveva aver presentato un errore di compilazione, finendo per intaccare anche altri file e corrompendo i metadati dei rapporti inviati. Poiché il campo della data conteneva ridondanza, di norma non veniva sottoposto a verifica rigorosa, motivo per cui l'anomalia era rimasta lì, ancora irrisolta fino a quel momento.
A Mantis premeva capire perché quei due dipartimenti avessero deciso, contemporaneamente e all'insaputa l'uno dell'altro, di cancellare alcuni file, e perché le parti eliminate sembrassero identiche.
Mantis decise di scoprire quella parola chiave: iniziò a elaborare varie possibili espressioni regolari e a simulare i loro effetti sui formati di data. Fece numerosi tentativi finché, impostando un'espressione regolare che cancellava '817', non ottenne un risultato che combaciava alla perfezione con il formato anomalo riscontrato in entrambi i dipartimenti.
Ora sapeva che '817' era la parola chiave che stava cercando. Sapeva di avere ancora molta strada da fare, ma quella parola chiave rappresentava indubbiamente una chiave per accedere alla verità. Doveva trovare il file contenente '817' e scoprire quale segreto vi fosse celato.
La notte era così buia; Mantis si diede un colpo secco alla testa: seguiva con la massima attenzione le mosse di quei due dipartimenti, eppure, proprio sotto i suoi occhi, non si era accorto di nulla di ciò che stavano tramando.
Dopo aver fatto avanti e indietro per la stanza con evidente irrequietezza, Mantis capì che era arrivato il momento di andare a trovare una vecchia conoscenza.
Si alzò, tornò in camera da letto e indossò abiti adatti a muoversi nell'oscurità; anche l'ultima volta che aveva visto quella persona era stata in una notte buia e piovosa come quella.