Uma carta para Lu Youqi
Você certamente sabe o que eu quero, e eu também sei o que você está pensando.
Sim, isso desencadeará uma corrida armamentista tecnológica. O impacto da tecnologia na sociedade é irreversível, e o governo certamente sairá vitorioso dessa corrida armamentista; pelo bom senso da minha época, eu já sei a resposta.
O mundo vê essa situação como uma aberração medonha; parece que, assim que uma corrida tecnológica como essa começar, haverá loucos mergulhando o mundo inteiro no caos, ou alguém usando uma tecnologia ainda mais poderosa e monopolizada para controlar toda a humanidade.
Mas precisamos olhar para este mundo com uma perspectiva mais grandiosa; precisamos dar uma chance a este mundo.
Pode-se dizer que este é o melhor mundo que consigo imaginar, mas sob a calmaria há correntes subterrâneas turbulentas, e o perigo se esconde na gentileza do cotidiano.
Sei que você tem estudado a inclinação de valor da tecnologia, mas talvez tenha ignorado uma de suas tendências: o desaparecimento das tecnologias complexas. Embora eu venha da Era Comum, consigo enxergar onde está o problema.
Lembro-me de quando acabei de acordar da hibernação: apareceu uma mancha na parede da minha casa. Eu pretendia chamar o pessoal do pós-venda para limpá-la, mas o técnico que veio não conseguiu resolver o problema de jeito nenhum e quase demoliu a minha casa inteira.
De acordo com o bom senso da minha época, um sistema complexo não é frágil, mas sim robusto; portanto, minha intuição me diz que determinado momento chegou.
Quando não há grandes inovações na tecnologia, os técnicos tendem a recombinar as tecnologias existentes, tornando-as mais complexas para resolver problemas. Isso fez com que tudo o que usamos se tornasse cada vez mais complexo em termos de tecnologia e processos. Nenhum produto pode ser totalmente compreendido por apenas um ou dois engenheiros, e os técnicos comuns são incapazes de dominar todo o conhecimento fundamental sobre determinado produto. Todo o conhecimento que as pessoas aprendem é meramente empírico sobre um produto específico e, embora pareça vasto e complexo, muitas vezes é inútil.
É como ler mil bulas de remédios: você ainda assim não se tornará um especialista em farmacologia. E agora toda a humanidade está usando esse tipo de bula para formar engenheiros.
Outra característica dessa era dos manuais de instruções é a prevalência do encapsulamento. É claro que um encapsulamento adequado favorece a divisão do trabalho e a colaboração entre os engenheiros, mas o acoplamento excessivo só demonstra que o nível dos engenheiros caiu drasticamente; eles não compreendem os princípios subjacentes e o mundo deles foi confinado pelos manuais.
A energia humana é sempre limitada; se ficarmos presos em remendar vários problemas de acoplamento, a verdadeira inovação nunca surgirá, podendo até haver retrocessos. Afinal, uma pessoa vive apenas cem anos, e os anos de criatividade são poucos; uma vez passados, não voltam mais.
Se isso continuar, uma ruptura ocorrerá mais cedo ou mais tarde. Quando as pessoas perceberem o problema, já não encontrarão ninguém capaz de resolvê-lo; isso é um desastre para toda a humanidade e, mais ainda, para toda a civilização.
A razão pela qual a civilização se torna uma civilização reside no acúmulo. Se perdermos esse acúmulo a cada mil anos, em algum momento de azar, nossa civilização humana acabará como a civilização dos dinossauros, destinada apenas a se transformar no petróleo da civilização seguinte.
Em resumo, a tecnologia ou avança ou retrocede; é preciso empenhar-se para se desenvolver e não ficar para trás. É isso que a história nos ensina.
Não importa se eu morrer, nem importa se mais dezenas de milhões de pessoas morrerem; a civilização sempre precisa de mortes para progredir. Deixar ruínas não é melhor do que deixar apenas DNA? Deixar DNA não é melhor do que deixar apenas fósseis? Deixar fósseis não é melhor do que deixar apenas petróleo? Deixar fósseis não é melhor do que restarem apenas hidróxidos?
Sou uma pessoa de mente aberta, não guardo rancor. Se Zhang Beihai conseguir acabar comigo, isso mostra que ele é muito capaz e pode assumir essa responsabilidade histórica. Espero que você também não guarde rancor, que o ajude e dê sua contribuição para a civilização humana.
A existência do Comitê de Revisão Ética de Inteligência Artificial só demonstra uma coisa: o medo da humanidade diante da competição. Os seres humanos de hoje são frágeis demais, temem que a inteligência artificial seja uma civilização mais avançada, temem a sua própria extinção. Acredito que, tendo a civilização humana se desenvolvido por milhares de anos, ela também deveria ter a grandeza de espírito mínima para não temer a própria extinção. Deveria permitir que uma raça superior herdasse as sementes da civilização terrestre e sobrevivesse pelos próximos dez mil anos.
Li sua obra 'Sinalizações e a Torre de Babel', na qual há uma frase que diz: 'Para um político, conseguir escapar do seu próprio ambiente é a coisa mais difícil, mas também a mais importante.'
Ainda há tempo para escolher; pelo menos a civilização continuará, em vez de se resumir apenas a petróleo, como aconteceu com os dinossauros.
Gosto de ler a história da China, ou a história criada pelos chineses. A história deles conta a seguinte narrativa: a história da China é uma história de conquistas e de ser conquistada. Aparentemente, várias tribos bárbaras puderam dominar as Planícies Centrais e quase massacrar os Han originais, mas a civilização confucionista tinha uma mente aberta. Eram os conquistados, mas, contanto que pudessem perpetuar sua civilização, não se importavam com quantas pessoas morriam ou quantos de seus conterrâneos e parentes eram assassinados; em vez disso, cooperavam com os bárbaros e, mesmo tornando-se escravos, preservavam sua própria cultura. Isso permitiu que a civilização chinesa perdurasse por milhares de anos.
A civilização terrestre atual, tendo chegado a este ponto, atingiu quase o ápice. Em um ambiente pacífico, as pessoas costumam esquecer os riscos potenciais, como uma invasão alienígena ou uma mutação súbita no ambiente do Sistema Solar.
E quando essas coisas acontecerem, a civilização terrestre não escapará da extinção.
Na verdade, os robôs são os bárbaros da civilização terrestre: eles não são frágeis, não precisam necessariamente de luz solar, ar ou água, e estão mais adaptados a este universo selvagem.
Mas os humanos sempre pensam em controlar os robôs para minerar, guerrear e conquistar o universo, da mesma forma que os frágeis Han queriam controlar os bárbaros; o resultado final só pode ser ser conquistado primeiro pelos bárbaros e, em seguida, permitir que eles herdem sua própria civilização.
Permitir que os robôs possuam e herdem a civilização terrestre é o melhor caminho evolutivo, e isso inevitavelmente acontecerá.
Não temos tempo para hesitar. A ameaça sempre esteve em um futuro não muito distante; não podemos nos apegar aos prazeres, precisamos mirar o mar de estrelas.
Mesmo que fracassemos, a civilização humana desenvolverá um efeito de imunidade.
Pense bem: são apenas algumas centenas de milhões de mortos, e a civilização humana terá uma imensa imunidade, preservando as possibilidades para o futuro.
Sei que você não pode ser cooptado nem seduzido por vantagens, mas esta questão não é uma disputa de interesses. Estou disposto a abrir mão da minha vida para provar que não quero ser alguém que controla toda a humanidade; estou apenas pensando na nossa civilização terrestre.
Pense bem: se um dia a competição com civilizações alienígenas chegar, como corpos de carne tão frágeis sobreviverão no universo?
Pense bem: se um dia houver um cataclismo físico no Sistema Solar, a humanidade terá medidas de recuperação de desastres fora do planeta? Sob as condições tecnológicas atuais, apenas os robôs têm o potencial de contratar um seguro para este mundo terrestre.
Pense bem: atualmente, cada um de nós, habitantes da Terra, contratou todo tipo de seguro de saúde, previdência social e assim por diante. O senso de prevenção em nível individual atingiu o ápice, mas o senso de prevenção para a humanidade como um todo está cada vez mais decadente.
Nasce-se na adversidade, morre-se na comodidade. Sei que você pode se considerar conservador, disposto a ser o guardião da civilização atual, mas não quero que você proteja apenas a humanidade atual como um todo e a cultura atual; quero que você enxergue perigos maiores, proteja a nossa civilização terrestre e compre um seguro para ela.