Zhang Beihai fu il primo ad arrivare in ufficio la mattina. Rivolto a nord, si prostrò tre volte con reverenza. Era il suo modo di rendere conto a suo padre e agli antenati nel tempio ancestrale. Nella genealogia della famiglia Zhang...
Zhang Beihai sapeva che Wade un tempo era stato un membro devoto e fondamentale dell'organizzazione "Sopravvivenza della Civiltà". Prima del 2020, era totalmente dedito allo sviluppo dell'intelligenza artificiale generale; per lui, il progresso tecnologico era di un'importanza senza pari. Dunque, dopo questo risveglio, di certo non avrebbe rispettato docilmente la Convenzione di Lisbona; senz'altro stava già tramando qualcosa nell'ombra. Zhang Beihai, nuovo capo di questo dipartimento, doveva da un lato servirsi di Wade e promuovere persone fidate, dall'altro tenerlo sotto controllo e bilanciarne l'influenza.
Oggi, quando Wade varcò la soglia, Zhang Beihai notò che teneva in mano due bracciali simili a giada smeraldo, apparentemente fatti di un qualche nuovo materiale, e chiese scherzando: "Non vorrai mica regalarmi dei bracciali di giada 'high ice'?"
Wade sorrise e disse: "In realtà sì. Ricordi quella tecnologia simile a un badge identificativo elettromagnetico per monitorare i pazienti di cui ti parlavo due giorni fa? Come sappiamo, quando le persone mentono o nascondono intenzionalmente la verità, le loro risposte fisiologiche mostrano lievi variazioni, come un'accelerazione del battito cardiaco, variazioni della resistenza cutanea e fluttuazioni di alcuni indicatori biochimici, come l'aumento dei livelli di cortisolo. Tra questi, il cortisolo è un indicatore chiave della risposta allo stress. Abbiamo utilizzato un isotopo specifico per marcare le molecole di cortisolo. Questo isotopo è chimicamente identico al normale cortisolo, ma differisce nelle sue proprietà fisiche, in particolare nella massa. In questo modo, quando il sensore all'interno del bracciale rileva un aumento della concentrazione di cortisolo, può verificarlo misurando la concentrazione di questo isotopo specifico. Con alcuni semplici algoritmi, monitorando la quantità e la posizione degli isotopi sul badge elettromagnetico, calcola i tuoi livelli endocrini e così via, funzionando come una macchina della verità. In questi giorni la Bat Company ha prodotto alcuni prototipi, e ne ho portati un paio per farteli vedere."
Zhang Beihai disse con un sorriso: "Bene, bene, avevo proprio intenzione di scendere a dare un'occhiata alla Bat Company. Negli ultimi due giorni sono stato impegnato con le riunioni e con la riorganizzazione del personale del dipartimento, non ho avuto tempo di andare."
Wade aggiunse: "Te lo mostro, è piuttosto divertente." Detto questo, Wade si infilò entrambi i bracciali ai polsi e spiegò: "Se mento, diventa rosso. Per esempio... oggi sono venuto per imbrogliare il signor Beihai... Visto? È diventato rosso."
Zhang Beihai annuì.
Poi Wade parlò: "Non sono un membro dell'organizzazione 'Sopravvivenza della Civiltà'."
Il bracciale indicò il colore blu!
Poi Wade parlò: "Non sono un membro dell'organizzazione 'Sopravvivenza della Civiltà'."
Il bracciale indicò il colore blu!
Zhang Beihai rimase a bocca aperta. Davvero non era un membro di 'Sopravvivenza della Civiltà'?
Wade continuò: "Hai lavorato nelle agenzie di sicurezza nel 2020, potresti aver ricevuto rapporti di intelligence su di me che mi descrivevano come un membro di 'Sopravvivenza della Civiltà', ma in realtà non lo sono. Semplicemente simpatizzavo per loro; amo la tecnologia dell'intelligenza artificiale e desidero che progredisca e si sviluppi."
Zhang Beihai annuì, riflettendo tra sé: o mi sta prendendo in giro con una finta macchina della verità — chissà se questo aggeggio luminoso non è solo una lampadina a LED, non siamo mica in un film, basta che dici che è un poligrafo ed è davvero un poligrafo? — oppure Wade non stava davvero mentendo, non è un membro di 'Sopravvivenza della Civiltà'. Questo dimostrava solo che non ne aveva mai fatto parte formalmente, ma avevano collaborato? Ne era stato membro in passato e poi ne era uscito? O era stato espulso? O forse stava giocando con le parole: ormai l'organizzazione 'Sopravvivenza della Civiltà' è scomparsa, quindi dire di non esserne membro è tecnicamente corretto.
"Mh,", Zhang Beihai gli diede una pacca sulla spalla e disse: "Ti credo, Wade. All'epoca ricevemmo effettivamente delle informazioni secondo cui eri un membro di spicco dell'organizzazione 'Sopravvivenza della Civiltà' e avevi partecipato a molte delle loro attività."
Wade continuò: "In effetti ho partecipato a molti eventi, ma a quel tempo erano organizzazioni legali. Conferenze come l'IJCAI, che organizzavano ogni anno, erano i vertici accademici dell'intelligenza artificiale. Da appassionato di questa tecnologia, quale motivo avrei avuto per non partecipare?"
Il bracciale rimase blu!
Zhang Beihai non riusciva a credere ai propri occhi. Era pur sempre Wade! Aveva passato così tanto tempo a studiarlo, ad analizzarlo, convinto di conoscerlo a fondo, eppure alla fine continuava a mostrare sfaccettature del tutto inaspettate.
Naturalmente, Zhang Beihai sapeva che in questa situazione collaborare con lui era la scelta migliore.
Così Zhang Beihai disse sorridendo: "Caro conterraneo Wade, non agitarti. Lasciamo che il passato svanisca come fumo; ciò che conta è lo splendore dell'alba di domani. Parlami del tuo piano. Come facciamo a mettere questa forza al nostro servizio?"
Wade disse: "D'accordo, signor Beihai. Prima di tutto, la United Systems che ho predisposto per lei originariamente produceva armi, ed è leader mondiale nel settore delle armi automatiche. Questa azienda ha anche continuato a fare ricerche sull'IA. Come sa, la clausola più celebre della Convenzione di Lisbona, la 0817, recita:
Nessun individuo o organizzazione può condurre esperimenti sull'intelligenza artificiale senza l'approvazione del Comitato Etico per l'Intelligenza Artificiale Generale.
In realtà, dal 2083, il Comitato Etico non ha approvato un singolo esperimento. È diventato di fatto un organo di controllo che conduce ispezioni globali annuali, proprio come per le armi nucleari.
La United Systems ha invece seguito un percorso di ricerca diverso: è partita dalla memoria di traiettoria e dalla compensazione dei bracci robotici, sviluppando gradualmente un equipaggiamento di polizia chiamato 'Riflesso Condizionato'. Quando gli agenti vengono attaccati, le armi automatiche equipaggiate rispondono al fuoco per riflesso condizionato, impiegando alta tensione, infrasuoni, proiettili di gomma e altri sistemi automatici.
L'anno scorso, chiacchierando a vuoto con un ricercatore della loro azienda, mi ha detto che la United raccoglie dati sul sistema a 'riflesso condizionato' da più di dieci anni. Se un giorno il Comitato Etico dovesse allentare i controlli, potrebbero creare all'istante animali domestici elettronici come cani o gatti robotici, privi di cervello ma con schemi comportamentali fissi."
Zhang Beihai chiese maggiori dettagli: "Trattandosi di 'riflesso condizionato', qual è la fonte dello stimolo? Mi ha spiegato che la fonte dello stimolo non è altro che un set di dati: per esempio, se l'animale robotico cammina, gli si fornisce continuamente lo stimolo del cammino; se incontra un ostacolo, lo stimolo diventa cammino più ostacolo. Si tratta solo di imitare l'istinto animale per farlo sembrare un animale..."
Zhang Beihai lo interruppe chiedendo: "Questo posso immaginarlo, ma la combinazione di questi riflessi potrebbe forse generare una coscienza?"
"No, no, no, la coscienza è l'ultima cosa di cui abbiamo bisogno. Primo, se sviluppassero una coscienza, il Comitato Etico interverrebbe di sicuro; secondo, se fossero coscienti, non sapremmo se vorrebbero stare dalla nostra parte, e questa forza non ci apparterrebbe necessariamente."
"Mh, è vero. Ma ciò di cui abbiamo bisogno ora non sono cani o gatti elettronici. Si può produrre qualcosa di utile con questa tecnologia?"
"Certamente. Useremo questa tecnologia per produrre robot: individui senza coscienza, senza pensiero, guidati solo dall'istinto. E faremo in modo che la United utilizzi i migliori materiali e tecnologie, alimentati dai più recenti sistemi a energia solare, con componenti di altissima qualità, puntando a una manutenzione ogni dieci anni. Infine li armeremo con armi automatiche e integreremo il sistema a 'riflesso condizionato', così che bastino tre robot per controllare un intero quartiere residenziale."
Zhang Beihai pensò tra sé: questo è davvero il solito Wade spietato e senza scrupoli; il nome più appropriato per i robot che vuole produrre sarebbe 'boia'.
Così Zhang Beihai si informò sull'approvvigionamento presso quella vecchia volpe.
"In realtà ho un certo rapporto con il Primo Leader del Comitato di Revisione Etica. L'anno scorso è stata approvata una cospicua somma di fondi per il loro comitato, perciò hanno allentato leggermente i controlli per alcune aziende", disse Wade a Zhang Beihai. "Se vuole davvero commissionare una fornitura, può rivolgersi a questa azienda." Detto questo, Wade gli porse un biglietto da visita.
"Chiedevo così, tanto per sapere. È una questione molto delicata; inoltre, il nostro dipartimento non ne ha bisogno. Al contrario, se la cosa diventasse di dominio pubblico, sarebbe un grosso scandalo. In realtà vorrei toccare un argomento tabù. Sono arrivato qui da poco e non so bene con chi parlarne; ripensandoci, solo con te che sei mio conterraneo posso confidarmi tranquillamente. Insomma, vorrei chiederti: cosa ne pensi dell'ondata di suicidi tra i giocatori di 'Sole Calante' nel 2078? Come sono andate davvero le cose? È stata davvero colpa dell'IA o c'era qualcuno dietro a orchestrare tutto? Dopotutto ha bloccato lo sviluppo dell'IA generale per quasi trent'anni, non credo che la faccenda sia semplice come appare in superficie."
Lo sguardo di Wade si fece vago per un istante. Ci pensò su, poi rispose a Zhang Beihai: "Nessuno può cambiare ciò che è già accaduto. Qualunque sia la verità, le conseguenze di quell'evento sono state manipolate: importa davvero quale sia la verità? Il fatto è che il Comitato Etico per l'IA Generale è stato istituito e la tecnologia dell'intelligenza artificiale si è fermata. Non conosci abbastanza bene quel periodo storico: se non ci fosse stato 'Sole Calante', ci sarebbe stato 'Sole Nascente'. A prescindere da come siano andate le cose, le conseguenze avrebbero comunque portato alla condanna dell'IA generale. Dopo la 'Grande Migrazione' degli anni '50 del XXI secolo e la 'Rivoluzione Industriale del Gioco' degli anni '60, l'umanità ha ripreso quel volgare moralismo di stampo rinascimentale, diventando ipersensibile, riluttante ad affrontare i rischi morali, riluttante a rispondere alle sfide etiche, riluttante a sacrificare una piccola minoranza per il progresso collettivo, persino quando si trattava di sacrificare un fottuto NPC con possibili funzioni emotive in un cazzo di videogioco..."
A quel punto Wade si era infervorato. Zhang Beihai capì che era rimasto il Wade di sempre, pronto ad avanzare a ogni costo.
Wade si rese conto del tono eccessivo e si calmò, aggiungendo: "Cercare colpe storiche o inseguire la verità non ha senso. La priorità è gestire questo manipolo di codardi che abbiamo davanti."
Zhang Beihai ribatté con espressione e tono sinceri: "No, no, non è così. Comprendere la storia ci permette di capire meglio il presente; approfondire la traiettoria del passato ci fa intravedere la direzione del futuro. Per sapere dove stiamo andando, dobbiamo capire da dove veniamo: guardare indietro serve anche a guardare avanti. La storia non è affatto una ragazzina da truccare a piacimento, e la verità non è affatto un vecchio mucchio di cianfrusaglie di cui a nessuno importa."
Wade sorrise: "Beihai, la storia te l'ho raccontata. Un uomo intelligente come te dovrebbe aver capito da tempo come stanno le cose, no? Quale fosse la verità su quei vecchi fatti è ormai impossibile da verificare; nell'era dell'ufficio senza carta, cancellare tutto è sempre facilissimo. Non c'è bisogno che tu mi metta alla prova: in ogni caso, noi stiamo dalla stessa parte."
Zhang Beihai assunse di nuovo un'aria sorpresa e chiese: "Oh? E cioè?"
"La fornitura che ti sto preparando è una forza in grado di aiutarti concretamente. Prima di tutto, una volta sbloccati, questi robot dotati di una minima capacità decisionale obbediranno solo a noi, offrendoti così una forza d'urto fresca; per di più, li armerò secondo i più moderni standard dell'equipaggiamento di polizia. In secondo luogo, farò distruggere tutti i progetti originali, i modelli, il codice e gli algoritmi, così che solo noi avremo la capacità di riprodurli rapidamente. Avendo una forza simile alle tue spalle, la nostra posizione migliorerà notevolmente."
Zhang Beihai ci rifletté un attimo e disse: "Mio caro conterraneo Wade, desidero crederti, certo. Ma tenere nelle proprie mani una simile forza armata privata non rischia forse di essere più pericoloso anziché più sicuro? C'è un antico detto cinese che recita: 'Il possesso di una gemma attira la rovina'. Se il Presidium dovesse scoprirlo, sarei il primo a venire represso, non credi? Inoltre, se tu o la tua fazione doveste denunciarmi, per voi sarebbe un gran merito."
Wade rimase spiazzato e disse: "Ti preoccupi di questo? Assolutamente no, siamo sulla stessa barca, non potrei mai fare nulla che ti danneggi. Inoltre, non conosci a fondo il Governo Unito: attualmente, ciascuno dei suoi dipartimenti dispone di proprie forze militari; ad esempio, il Dipartimento di Sanità e Prevenzione Epidemica ha truppe epidemiche strutturate, il Dipartimento di Soccorso e Beneficenza ha corpi di vigili del fuoco, il Dipartimento dei Trasporti e dell'Aviazione ha squadroni di servizio di volo. È una caratteristica peculiare del Governo Unito, niente di insolito. Amico mio, ancora non ti fidi di come lavoro? Ho valutato attentamente le reazioni di tutte le parti; posso discutere l'intero piano con te."
Zhang Beihai disse con un sorriso: "Mio caro conterraneo Wade, affinché tra noi ci sia fiducia reciproca, oltre a essere compaesani, ci devono essere altri motivi: o mi riveli i tuoi scopi, oppure mi racconti il tuo passato."
"Condivido l'idea dell'amico Wade, ma il Comitato di Revisione Etica approverebbe davvero robot del genere?"
"Hahaha, ovviamente non andrò a dire queste cose a quelli del Comitato di Revisione Etica. Caro Beihai, voi cinesi avete un detto: 'Agire con una giusta causa'. La realtà non è un film di fantascienza in cui si distingue chiaramente chi è buono e chi è cattivo; purché troviamo un buon nome, la maggior parte della gente penserà che siamo noi i buoni del film.
Di certo non dirò al comitato né al pubblico che si tratta di robot; continuerò a definirli cani poliziotto elettronici e darò loro il nome di un cagnolino carino, sufficiente a far abbassare la guardia all'opinione pubblica. Al Comitato di Revisione Etica dirò invece che si tratta di attrezzature di pattugliamento ordinate dal dipartimento di polizia e sicurezza, l'ultimo prodotto di nuova generazione sviluppato dalla United; l'unica differenza è che prima il 'sistema a riflesso condizionato' era montato sugli agenti, mentre ora si tratta solo di un cane da guardia elettronico.
Il Comitato di Revisione Etica è attivo da vent'anni, i disastri di allora sono ormai lontani. Chi ci lavora oggi considera il lavoro solo un lavoro di routine, hanno perso la vigilanza. Basterà aumentare un po' il loro budget e passerà senza problemi."
"E per quanto riguarda il dipartimento di polizia e sicurezza?"
"Ho già concordato la cosa con il loro Primo Leader, è disposto ad acquistare questi prodotti. Del resto me ne occuperò io, a lei basterà solo approvare questa proposta di approvvigionamento."
"Bene, ottimo, caro conterraneo Wade, è davvero un piacere lavorare con te." disse Zhang Beihai con tono d'approvazione. "Fammi riflettere se c'è ancora qualcosa che non abbiamo preso in considerazione..."
Zhang Beihai faceva avanti e indietro nella stanza, soppesando tra sé la trappola in cui Wade stava cercando di trascinarlo. Nel primo scontro, Zhang Beihai si era assicurato la posizione di primo leader, prendendo l'iniziativa e guadagnandosi il potere di porre il veto alle sue proposte. Al secondo round, Wade era passato all'attacco con una proposta apparentemente perfetta e vantaggiosa per lui, vantaggiosa per la loro attuale alleanza; ma se avesse seguito pedissequamente i passi tracciati da Wade, avrebbe perso l'iniziativa. E l'iniziativa è la variabile più determinante nella lotta per il potere.
Zhang Beihai detestava farsi manipolare. Fare come diceva Wade significava cedere l'iniziativa; tuttavia, lasciarsi sfuggire quell'occasione sarebbe stato un vero peccato, dato che il bilancio preventivo e consuntivo si presentava solo una volta all'anno.
In quel momento, l'allarme del sistema di sicurezza interno risuonò; la voce sintetizzata annunciò: "C'è un ospite su appuntamento."
"Non ho appuntamenti per oggi pomeriggio?" borbottò Zhang Beihai. Poi attivò la schermata all'ingresso e scoprì che alla porta c'era nientemeno che Wan Yining!
"Non c'è bisogno di verificare, sono stato io a invitare Yining", mi disse Wade con un sorriso. Il suo sorriso era caldo e con una punta di sincerità, come il calore genuino che scorre tra veri amici.
Nel profondo, però, Zhang Beihai non poté fare a meno di rabbrividire.
Wade continuò: "Ho saputo da Yining che oggi pomeriggio avevi un appuntamento con Jiao Huanqi del Presidium, così l'ho invitata a fare un salto qui, visto che mi pareva non avessi altri impegni per il pomeriggio."
Zhang Beihai pensò: ha fatto la sua mossa, dopotutto. Due giorni prima, Zhang Beihai aveva contattato Wan Yining, chiedendole di fissargli un incontro con Jiao Huanqi del Presidium, raccomandandole di non dirlo a nessuno.
Jiao Huanqi era il Primo Leader della Commissione per l'Industria e i Giochi, nonché membro del Presidium del Governo Unito. Dalla sua carriera lavorativa, avevo dedotto che fosse favorevole allo sviluppo dell'IA, per cui volevo sondare il terreno per capire se Wade avesse organizzato una fazione a favore dell'IA all'interno del Governo Unito.
Ciò che sorprese Zhang Beihai fu, prima di tutto, che Wade evidentemente intercettava le sue comunicazioni, venendo a conoscenza di quella telefonata con Wan Yining; inoltre, aver fatto venire Wan Yining lì era chiaramente una minaccia velata nei confronti di Zhang Beihai. Zhang Beihai provò un brivido di costernazione: era bastato mostrare appena un briciolo di simpatia per Wan Yining perché lui se ne accorgesse e lo usasse come arma di ricatto; era davvero un uomo spietato.
Zhang Beihai guardò Wade negli occhi: il suo sguardo restava limpido e serio, senza la minima traccia di finzione o doppiezza.
Anche Zhang Beihai gli sorrise e disse: "D'accordo, ho capito cosa intendi. Non preoccuparti, è una buona opportunità, non me la lascerò scappare." Zhang Beihai si voltò e tornò a sedersi sulla propria sedia, aggiungendo: "Ma c'è davvero bisogno di tutta questa fretta?"
Wade disse: "La prima regola dell'intelligence: all'obiettivo più importante va dedicata la massima attenzione. Il nostro obiettivo attuale è cruciale, quindi dobbiamo cogliere questa opportunità. L'altro giorno ho fatto due chiacchiere con Yining: è disposta a venire a lavorare nel nostro dipartimento per qualche mese, perciò le ho predisposto un incarico."
"Non sarà mica anche lei una dei tuoi?"
"Si preoccupa troppo, signor Beihai. Wan Yining non ha davvero alcun legame con me, fa semplicemente l'infermiera all'ospedale di ibernazione di Canberra. Può verificare personalmente il suo fascicolo: lavora qui spinta solo dall'entusiasmo di una fan. Prima il suo idolo principale ero io, adesso è diventato lei, sono quasi geloso..."
"Salve, grandi star!" Mentre parlavamo, Wan Yining era già entrata, accompagnata dalla sua risata argentina. "Di cosa state parlando? Posso ascoltare?"
Zhang Beihai, vedendo quegli occhi che sembravano portare una brezza primaverile, sentì che persino quell'autunno diventava luminoso. Dissi: "Certo che puoi. Stiamo decidendo quali saranno le tue mansioni: che ne dici di fare il primo aiutante di campo del nostro dipartimento? C'è una bellissima uniforme da indossare."
"Tsk, è solo perché non ti piace la persona mandata da Li Geyu, vero?"
"E tu come fai a saperlo?" Non potei fare a meno di mostrare sorpresa.
"Non è forse una regola non scritta che il Presidium assegni un primo aiutante a certi dipartimenti? Ho fatto tre mesi di tirocinio alle Nazioni Unite, ovvio che lo so", disse Wan Yining.
Wade aggiunse: "Se Yining ha già un'esperienza del genere, si adatterà ancora meglio al lavoro qui. Il primo aiutante del signor Beihai potrebbe arrivare solo tra qualche mese; nel frattempo puoi dargli una mano tu."
"Voi dell'Era Comune non preferite che le ragazze non si immischino ad aiutarvi?"
Io e Wade ci scambiammo un sorriso. Dissi: "Questo stereotipo l'hai preso da un videogioco? Anche alla nostra epoca non erano tutti maschilisti."
Wan Yining sorrise lievemente: "D'accordo, signor Beihai, allora quando inizio a lavorare?"
Wade disse: "Anche adesso, vai a cambiarti d'abito?"
"Fantastico! Ho sempre indossato uniformi del genere solo nei videogiochi, voglio mettere gli abiti degli anni '20 del secolo scorso! Ah, chiamatemi quando avrete finito di parlare, non mi va molto di vederlo qui, altrimenti comincerà di nuovo a rimproverarmi."
Mentre Wan Yining usciva saltellando allegramente, entrò un uomo alto di mezza età.
Era chiaramente una persona abituata a fare attività fisica; i muscoli del corpo tendevano l'abito formale, eppure il suo passo era incredibilmente leggero. Zhang Beihai lo osservava con la coda dell'occhio.
Incrociando Wan Yining mostrò una lieve sorpresa, ma vedendo Wade la sua espressione non lasciò trasparire alcuna emozione.
Zhang Beihai gli andò incontro per stringergli la mano: "Salve, lei deve essere il signor Jiao Huanqi, vero?"