Una lettera a Lu Youqi
Sai per certo cosa voglio, e io so cosa stai pensando tu.
È vero, questo innescherà una corsa agli armamenti tecnologici. L'impatto della tecnologia sulla società è irreversibile, e le autorità vinceranno inevitabilmente questa contesa: mi basta il buon senso della mia epoca per saperlo.
Il mondo vede questa situazione come qualcosa di mostruoso, come se dallo scoppio di una simile competizione tecnologica dovesse per forza emergere un pazzo che getti l'intero pianeta nel caos, o qualcuno che sfrutti tecnologie più potenti e monopolistiche per controllare l'intera umanità.
Ma dobbiamo guardare questo mondo da una prospettiva più ampia; dobbiamo concedere una possibilità a questo mondo.
Questo mondo è praticamente il migliore che io possa immaginare, eppure sotto la calma apparente scorrono correnti sotterranee, e il pericolo si annida nella mite quotidianità.
So che hai sempre studiato le inclinazioni valoriali della tecnologia, ma forse hai trascurato una sua tendenza: la scomparsa delle tecnologie rese troppo complesse. Anche se vengo dall'era volgare, riesco comunque a scorgere dove risieda il problema.
Ricordo che, appena svegliato dall'ibernazione, su una parete di casa mia comparve una macchia. Avevo intenzione di chiamare l'assistenza post-vendita per pulirla, ma il tecnico intervenuto non riusciva a risolvere il problema e per poco non mi sfasciava l'intera casa.
Secondo il buon senso dei miei tempi, un sistema complesso non è fragile, bensì robusto; perciò l'intuizione mi dice che un certo momento è ormai arrivato.
In assenza di grandi innovazioni, i tecnici tendono a combinare le tecnologie esistenti, rendendole più complesse per risolvere i problemi. Di conseguenza, tutto ciò che usiamo è diventato sempre più intricato sia a livello tecnologico che di processi. Nessun prodotto può essere compreso appieno da uno o due ingegneri, e i tecnici ordinari non riescono assolutamente a padroneggiare tutte le nozioni fondamentali di un dato manufatto. Tutti apprendono soltanto nozioni empiriche relative a un singolo prodotto: conoscenze che sembrano vaste e articolate, ma che in realtà il più delle volte sono inutili.
È come leggere mille foglietti illustrativi di medicinali: non basterà certo a farti diventare un farmacologo. Eppure oggi l'intera umanità sta formando gli ingegneri usando proprio manualetti del genere.
Un'altra caratteristica di quest'era dei manuali di istruzioni è il trionfo dell'incapsulamento. Certo, un incapsulamento appropriato favorisce la divisione del lavoro e la cooperazione tra ingegneri, ma un accoppiamento eccessivo dimostra solo che il livello degli ingegneri è crollato drasticamente: non comprendono i principi fondamentali, e il loro mondo è ormai limitato dalle istruzioni per l'uso.
Le energie umane sono pur sempre limitate: se restiamo intrappolati a rattoppare continui problemi di accoppiamento, la vera innovazione non vedrà mai la luce, anzi, si produrrà un regresso. Dopotutto, l'uomo vive solo un secolo, e gli anni di vera creatività sono pochissimi: una volta passati, non tornano più.
Continuando così, prima o poi si verificherà una frattura; quando la gente scoprirà i problemi, non ci sarà più nessuno in grado di risolverli. Questa sarà una catastrofe per l'intera umanità, e ancor più per la nostra civiltà.
Ciò che rende una civiltà tale è l'accumulo; se ogni mille anni gettiamo via quanto accumulato, in un momento sfortunato la nostra civiltà umana finirà proprio come quella dei dinosauri: ridotta soltanto a petrolio per la civiltà successiva.
In sintesi: nella tecnologia, chi non avanza retrocede; bisogna impegnarsi a progredire per non restare indietro. Questo è ciò che ci insegna la storia.
Non importa se io muoio, e non importa nemmeno se muoiono altre decine di milioni di persone; la civiltà ha sempre bisogno di sacrifici umani per progredire. Lasciare dei reperti non è forse meglio che lasciare solo il DNA? Lasciare il DNA non è forse meglio che lasciare solo fossili? Lasciare fossili non è forse meglio che lasciare solo petrolio? Lasciare fossili non è forse meglio che ridursi a semplici idrossidi?
Sono una persona di ampie vedute, non porto rancore. Se Zhang Beihai è riuscito a farmi fuori, dimostra che possiede grandi capacità e può farsi carico di questa responsabilità storica. Spero che anche tu non serbi rancore, che tu lo aiuti e dia il tuo contributo alla civiltà umana.
L'esistenza della Commissione per la Revisione Etica dell'Intelligenza Artificiale dimostra solo una cosa: la paura della concorrenza da parte dell'umanità. Gli esseri umani di oggi sono troppo viziati, temono che l'intelligenza artificiale sia una civiltà più avanzata, temono la propria estinzione. Credo che la civiltà umana, dopo essersi sviluppata per millenni, debba avere almeno l'ampiezza di vedute necessaria a non temere la propria fine, lasciando che una specie migliore erediti i semi della civiltà terrestre per sopravvivere fino al prossimo ciclo di diecimila anni.
Ho letto la tua opera, «Segnali stradali e la Torre di Babele», in cui scrivi: «Per un politico, riuscire a trascendere il proprio contesto è la cosa più difficile, ma è anche la più importante».
Siamo ancora in tempo per scegliere: perlomeno la civiltà continuerà a vivere, invece di fare la fine dei dinosauri, ridotti a mero petrolio.
Amo leggere la storia della Cina, o la storia creata dai cinesi. La loro storia narra una vicenda peculiare: è una successione di conquiste e sottomissioni. In apparenza, ogni sorta di popolo barbaro poteva insediarsi nelle Pianure Centrali e sterminare quasi per intero gli Han originari; eppure la civiltà confuciana aveva una mente aperta: era la parte vinta, ma purché potesse tramandare la civiltà, non le importava di quanti dei suoi morissero o di quanti compatrioti venissero massacrati. Collaboravano con i barbari e, anche a costo di ridursi in schiavitù, preservavano la propria cultura; ed è questo che ha permesso alla civiltà cinese di perpetuarsi per millenni.
Giunta a questo punto, l'odierna civiltà terrestre ha quasi toccato il suo apice. In un contesto di pace, le persone tendono a dimenticare i rischi potenziali, come un'invasione aliena o un mutamento improvviso dell'ambiente del sistema solare.
E qualora simili eventi dovessero accadere, per la civiltà terrestre l'estinzione sarebbe inevitabile.
In realtà, i robot sono i barbari della civiltà terrestre: non sono fragili né viziati, non necessitano per forza di luce solare, aria o acqua, e si adattano meglio a questo universo selvaggio.
Eppure gli umani pensano sempre a controllare i robot per mandarli a estrarre risorse, a combattere, a conquistare l'universo, proprio come i deboli Han volevano controllare i barbari. Il risultato finale non potrà che essere quello di farsi prima conquistare dai barbari, per poi lasciare che siano loro a ereditare la propria civiltà.
Permettere ai robot di possedere ed ereditare la civiltà terrestre è la via evolutiva migliore, ed è inevitabile che accada.
Non abbiamo più tempo per esitare: le minacce si profilano costantemente in un futuro non lontano. Non possiamo cedere alla brama di agi e piaceri; dobbiamo volgere lo sguardo al mare di stelle.
Anche se dovessimo fallire, la civiltà umana ne ricaverà un effetto immunitario.
Pensaci: basterà la morte di appena qualche centinaio di milioni di individui perché la civiltà umana sviluppi un'immunità formidabile, preservando le possibilità del futuro.
So che non ti si può blandire né comprare, ma questa non è una contesa per il profitto personale. Sono disposto a rinunciare alla mia vita pur di dimostrarlo: non intendo affatto diventare un despota che controlla l'umanità intera, ho a cuore soltanto la nostra civiltà terrestre.
Pensaci: se un giorno dovesse sopraggiungere la competizione con una civiltà aliena, come potrebbe sopravvivere nell'universo un corpo fragile di carne e ossa?
Pensaci: se un giorno si verificasse un cataclisma fisico nel sistema solare, l'umanità disporrebbe di misure di ripristino d'emergenza fuori sede? Nelle attuali condizioni tecnologiche, solo i robot possono stipulare una polizza assicurativa per questo pianeta Terra.
Pensaci: oggi noi terrestri sottoscriviamo ogni sorta di assicurazione sanitaria, fondi pensione e così via. La consapevolezza del pericolo a livello individuale ha raggiunto l'estremo, ma quella per l'umanità nel suo complesso sta decadendo sempre più.
Si prospera nelle avversità e si perisce negli agi. So che potresti ritenerti un conservatore, disposto a farti custode dell'attuale civiltà; ma io non voglio che tu ti limiti a proteggere l'odierna umanità e la cultura contingente. Devi scorgere i pericoli più grandi, proteggere la nostra civiltà terrestre e stipulare per lei un'assicurazione.