Zhang Beihai tornou-se sem problemas o principal líder do Departamento de Relações Públicas e Apoio Logístico. Zhang Beihai sabia que aquela era uma posição perigosa e ao mesmo tempo de grande destaque, mas já não tinha mais volta para escolher. Por um lado, sentia-se feliz por ser um líder daquele nível; por outro, confiava em suas próprias capacidades, pois sabia como usar a experiência acumulada com o poder.
Quinze dias depois, teve início o processo orçamentário para o próximo ano fiscal. Muitas pessoas do setor da indústria de jogos iam todos os dias ao gabinete de Zhang Beihai para fazer apresentações promocionais, divulgando seus produtos mais recentes, e pessoas de outros departamentos também vinham fazer lobby para questões de compras.
No entanto, durante vários dias seguidos, o que Zhang Beihai viu foram apenas produtos voltados para simulação de políticas, análise de dados sociais, determinação de contexto em jogos e afins.
Naquele dia, chegou outro grupo de pessoas liderado pelo presidente da Comissão de Inteligência Artificial. Quando ele se aproximou, Zhang Beihai percebeu que se tratava de um homem cego, muito alto e corpulento, segurando um dispositivo assistivo para deficientes visuais, que começou a apresentar a Zhang Beihai uma ferramenta de processamento de arquivos baseada em expressões regulares.
Zhang Beihai não pôde deixar de perguntar à pessoa à sua frente: “Já não estamos no ano 2100? Pelos dados que consultei, os produtos de inteligência artificial já deveriam ter tido um avanço considerável. Por que todos esses produtos que vocês apresentam agora continuam sendo coisas simples de classificação e estatística de dados? Por que não há nada avançado? Presidente Mantis, vejo que o senhor é o responsável pela Comissão de Inteligência Artificial, poderia me explicar por que isso acontece? Em que estágio se encontra o desenvolvimento da nossa inteligência artificial?”
Mantis acariciou o dispositivo assistivo em suas mãos, ergueu a cabeça e perguntou: “O senhor não ouviu falar da Convenção de Lisboa?”
“Sempre se disse que o desenvolvimento da inteligência artificial passa pela análise de uma comissão de ética. Há alguma medida prática correspondente?”
“O senhor provavelmente não tem noção de quão rigorosa ela é. Desde a revolução da indústria de jogos na década de 2040, a tecnologia de inteligência artificial progrediu enormemente com a evolução desse setor. Muitas empresas de jogos queriam tornar os NPCs cada vez mais inteligentes. Havia muitos caminhos de pesquisa para torná-los mais inteligentes, e um deles era introduzir emoções neles. Havia um estúdio de jogos chamado 'Dongma' que estava na vanguarda: ao introduzir o conceito de morte nos NPCs, eles fizeram com que eles gradualmente desenvolvessem o sentimento de medo, e a partir daí começaram a surgir a dor, o conforto, etc. Somando-se a isso alguns algoritmos heurísticos, os NPCs do jogo tornaram-se de fato cada vez mais parecidos com humanos. Em 2077, o estúdio 'Dongma' foi o primeiro a aplicar essa tecnologia em um jogo chamado 'O Sol Poente', cuja trama se passava no Japão pré-Segunda Guerra Mundial, e a NPC feminina se chamava Shizuko Ota. Assim que foi lançado, todos os jogadores do sexo masculino ficaram obcecados por Shizuko. No entanto, um ano depois, coisas estranhas aconteceram: dezenas de milhares de jogadores cometeram suicídio sucessivamente na floresta de Aokigahara, no Japão — justamente o local onde se encerrava uma das linhas narrativas de 'O Sol Poente'. Esse incidente chocou o mundo inteiro. Para se ter uma ideia, naquela época não ocorriam mais do que algumas centenas de assassinatos por ano...”
Mantis fez uma pausa aqui, deu um suspiro e continuou: “Investigações posteriores revelaram que isso aconteceu porque a NPC Shizuko Ota dava sugestões psicológicas de suicídio a muitas pessoas dentro do jogo. As investigações subsequentes duraram anos e, no fim, os pesquisadores ainda não conseguiram determinar se foi uma combinação acidental no corpus textual de Shizuko Ota que levou a essa situação ou se ela realmente desenvolveu autoconsciência e tomou essa decisão por conta própria.”
Mantis olhou nos olhos de Zhang Beihai e disse: “Naquela época eu tinha vinte e dois anos, também era um fã do jogo 'O Sol Poente' e vivi intensas histórias de amor com Shizuko Ota inúmeras vezes. Sempre que ela erguia a cabeça no jogo, sorria e me perguntava: 'Mantis, você me ama? Me tire daqui, por favor?', eu achava que ela estava apenas recitando uma fala. Mais tarde, porém, tornei-me um pesquisador de inteligência artificial e, ao verificar o corpus dela, descobri que essa frase simplesmente não constava nele.”
Mantis ficou em silêncio por um instante: “Quando eu tinha dezoito anos, defini como objetivo de vida me tornar um especialista em pesquisa de inteligência artificial e dedicar todo o meu talento ao desenvolvimento da inteligência artificial geral. Contudo, aos vinte e dois anos, concordei plenamente com uma frase dita pelos redatores da Convenção de Lisboa: 'Não devemos atribuir levianamente sentimentos a nada; não sabemos se isso lhes trará felicidade ou sofrimento.' Desde que a Convenção de Lisboa foi redigida e se tornou um consenso global, o desenvolvimento da inteligência artificial geral estagnou por completo, e assuntos relacionados tornaram-se tabu. A comissão de avaliação ética realiza inspeções anuais em toda a indústria de jogos e setores de pesquisa científica, da mesma forma como se inspecionavam armas nucleares no século XXI. E já se passaram mais de vinte anos desde então.”
Ao ouvir o relato de Mantis, Zhang Beihai sentiu uma leve inquietação. Seria tudo tão simples assim? Teria sido apenas um acidente científico?
Zhang Beihai pensou que, a julgar pelas consequências, o evento acelerou a criação da comissão de avaliação ética e, objetivamente, reprimiu o desenvolvimento da inteligência artificial. Seria possível... que essa ação tivesse sido orquestrada pela nossa própria agência no passado? Afinal, o que a agência sempre quis fazer foi reprimir a organização 'Continuidade da Civilização' e impedir o avanço da tecnologia de inteligência artificial. Mas, se o incidente tivesse sido planejado, teria sido um ataque terrorista em larga escala em todos os sentidos — induzir dezenas de milhares de pessoas ao suicídio de uma só vez teria um efeito letal milhares de vezes superior ao 11 de Setembro.
Meu Deus... Zhang Beihai sentiu como se tivesse tocado o âmago do âmago da questão. Não se tratava de um mero atrito entre civilizações, mas sim... ele não ousou continuar pensando.
Zhang Beihai de repente sentiu uma torrente de suposições brotar em sua mente e, esforçando-se para manter a compostura, disse: “Certo, conversaremos de novo numa próxima oportunidade. Preciso falar com Wade.”
Mantis pareceu perceber a oscilação emocional de Zhang Beihai; seus olhos sob os óculos escuros pareceram se abrir para apreciar a mudança na expressão facial do interlocutor.
Mantis ficou muito satisfeito com sua observação. Ele se despediu em silêncio daquela figura de alto escalão e grande poder, sabendo que o General Beihai ignoraria deliberadamente a sua presença, tratando-o como um NPC em um jogo, um figurante no roteiro, alguém sem relevância.
No entanto, o mundo real não funciona como nos jogos: um simples e ordinário escriturário pode muito bem se tornar a pessoa com o maior poder em todo esse tabuleiro.
Era uma noite chuvosa em Sydney quando Mantis voltou para casa.
Mantis pegou uma cadeira e sentou-se na varanda, ouvindo em silêncio a tempestade fustigar as janelas de vidro, as árvores lá fora e colidir contra esta Terra de bilhões de anos.
A noite estava tão escura. Mantis repassou mentalmente, várias e várias vezes, cada detalhe do encontro de hoje com Zhang Beihai; precisava memorizá-los com perfeição agora e conectá-los ao quebra-cabeça completo que existia em sua mente.
Havia riscos em registrar pensamentos e informações cruciais em qualquer suporte que deixasse rastros. Mantis sabia disso com absoluta clareza; por isso, todas as peças do quebra-cabeça permaneciam em sua mente. Apenas uma via original, nenhum outro registro.
Mantis apagou a luz da varanda, deixando-se fundir por completo com a escuridão e a tempestade. Agora, ele precisava processar alguns documentos.
Na qualidade de presidente da Comissão de Inteligência Artificial, ele precisava analisar periodicamente os relatórios de avaliação dos departamentos relevantes para cumprir seus deveres de supervisão.
Mantis não prestava atenção ao conteúdo daqueles relatórios — em geral, eram textos burocráticos padronizados dos departamentos. O que ele pretendia era processar esses arquivos em seu ambiente isolado de análise de inteligência, mapeando estilos textuais, registros de data e hora, entre outros dados.
Ao inspecionar os metadados do relatório do departamento de Wade, Mantis notou com estranheza que o campo de data estava fora do padrão. Embora os atuais sistemas de verificação de software sempre apresentassem algum problema aqui ou ali a cada atualização, o fato de até a validação de data conter um erro deixou-o surpreso.
Prestes a ignorar aquele erro, Mantis notou com espanto que o campo de data do departamento de Jiao Huanqi também parecia fora do padrão, como se faltassem alguns dígitos.
Ele começou a investigar a fundo: por que exatamente estariam faltando alguns números? Em tese, esses metadados eram gerados automaticamente por programas. Embora os diversos softwares de engenharia atuais apresentassem pequenos bugs de tempos em tempos, o problema em questão obviamente não parecia ser uma falha de engenharia de software. Não teria sido causado por um erro em uma expressão regular usada para busca e substituição em massa?
O coração de Mantis deu um salto. Ele começou a suspeitar que alguém pudesse ter tentado deletar por completo no nível de armazenamento arquivos contendo uma determinada palavra-chave, mas que a expressão regular do software de limpeza da camada de armazenamento talvez contivesse um erro de compilação, o que acabou afetando outros arquivos. Como resultado, os metadados dos relatórios enviados foram corrompidos; e como o campo de data continha redundância, geralmente não era submetido à validação rigorosa, de modo que o problema permaneceu ali, sem solução até agora.
O que chamou a atenção de Mantis foi: por que esses dois departamentos tentaram simultaneamente e sem combinar deletar alguns arquivos, e por que a parte eliminada parecia ser a mesma?
Mantis decidiu descobrir essa palavra-chave. Ele começou a construir várias expressões regulares possíveis e a simular seus resultados aplicados ao formato de data. Após inúmeras tentativas, conseguiu finalmente um resultado que coincidia com perfeição com o formato defeituoso de ambos os departamentos ao utilizar uma expressão regular que excluía “817”.
Agora, ele sabia que “817” era a palavra-chave que procurava. Sabia que ainda tinha um longo caminho pela frente, mas aquela palavra-chave era, sem dúvida, uma chave para alcançar a verdade. Ele precisava encontrar o arquivo que continha “817” e descobrir que segredo ele ocultava.
A noite estava tão escura. Mantis deu um tapa forte na própria cabeça; aqueles eram os dois departamentos cuja movimentação ele mais acompanhava e, ainda assim, bem debaixo do seu nariz, conspiravam sem que ele soubesse de nada.
Depois de andar inquieto de um lado para o outro no quarto, Mantis concluiu que havia chegado a hora de visitar um velho conhecido.
Ele se levantou, voltou para o quarto e vestiu roupas adequadas para deslocamentos noturnos. A última vez que vira aquela pessoa fora também em uma noite tão escura e chuvosa como esta.