루유치에게 보내는 편지
당신은 내가 무엇을 원하는지 분명 알고 있을 테고, 나 역시 당신이 무슨 생각을 하는지 알고 있습니다.
맞습니다, 이는 기술 군비 경쟁을 촉발할 것이며, 기술이 사회에 미치는 영향은 되돌릴 수 없습니다. 정부 측이 이 군비 경쟁에서 반드시 승리할 것이라는 점은, 내가 살던 시대의 상식만으로도 알 수 있는 답입니다.
세상 사람들은 이런 상황을 요마악귀 보듯 합니다. 마치 이런 기술 경쟁이 일어나기만 하면 광인이 나타나 전 세계를 혼란에 빠뜨리거나, 누군가 더 강력하고 독점적인 기술을 이용해 전 인류를 통제하기라도 할 것처럼 말입니다.
하지만 우리는 더 거대한 시각으로 이 세상을 바라보아야 하며, 이 세상에 기회를 주어야 합니다.
이 세상은 내가 상상할 수 있는 가장 훌륭한 세상이라고 할 수 있지만, 잔잔한 수면 아래에는 암류가 소용돌이치고 있으며, 위험은 평화로운 일상 속에 숨어 있습니다.
당신이 줄곧 기술의 가치 지향성을 연구해 왔다는 것을 알고 있습니다만, 어쩌면 기술의 한 가지 경향, 즉 복잡화된 기술의 소멸을 간과하고 계셨을지도 모릅니다. 비록 내가 서기 시대에서 온 사람이긴 하지만, 문제점이 어디에 있는지는 보입니다.
동면에서 막 깨어났을 때의 일이 기억납니다. 집 벽에 얼룩이 하나 생겨서 AS 기사를 불러 청소하려 했는데, 찾아온 기사는 문제를 전혀 해결하지 못하고 하마터면 내 집 전체를 다 뜯어낼 뻔했습니다.
내가 살던 시대의 상식에 따르면 복잡한 시스템은 취약한 것이 아니라 견고성(로버스트성)을 지니고 있어야 하기에, 직감적으로 어떤 순간이 도래했음을 알 수 있었습니다.
기술에 큰 혁신이 없을 때, 기술자들은 기존 기술을 이리저리 조합하고 복잡화하여 문제를 해결하려는 경향을 보입니다. 그 결과 우리가 사용하는 모든 것이 기술적으로나 공정상으로 점점 더 복잡해지게 되었습니다. 어떤 제품이든 한두 명의 엔지니어가 완전히 이해할 수 없게 되었고, 일반 기술자는 특정 제품에 관한 모든 기초 지식을 결코 온전히 파악할 수 없게 되었습니다. 모든 이들이 배우는 지식은 그저 특정 제품에 국한된 경험적 지식일 뿐이며, 이러한 지식은 방대해 보이지만 사실 무용지물인 경우가 많습니다.
마치 약 설명서 천 장을 읽는다고 해서 약학 전문가가 될 수 없는 것과 같습니다. 그런데 지금 전 인류가 그런 설명서로 엔지니어를 길러내고 있습니다.
그리고 이러한 설명서 시대의 또 다른 특징은 캡슐화가 횡행한다는 점입니다. 물론 적절한 캡슐화는 엔지니어 간의 분업과 협업에 도움이 되지만, 지나친 결합은 엔지니어의 수준이 심각하게 떨어져 근본적인 원리를 이해하지 못함을 보여줄 뿐이며, 그들의 세계는 이미 설명서에 갇혀 버렸습니다.
인간의 에너지는 한계가 있는 법인데, 온갖 결합 문제를 땜질하는 데 갇혀 있다 보면 진정한 혁신은 나오지 못하고 오히려 퇴보하기까지 합니다. 결국 인간은 백 년밖에 살지 못하고, 창의력을 발휘할 수 있는 시기는 고작 몇 년에 불과하며, 그 시절이 지나가면 다시는 돌아오지 않으니까요.
이대로 가다가는 조만간 단절이 발생할 것이고, 사람들이 문제를 깨달았을 때는 이미 문제를 해결할 수 있는 사람을 찾을 수 없게 될 것입니다. 이는 전 인류에게 재앙이며, 문명 전체에는 더더욱 큰 재앙입니다.
문명이 문명일 수 있는 이유는 축적에 있습니다. 만약 천 년마다 축적된 것을 한 번씩 잃어버린다면, 운이 따르지 않는 어느 순간, 우리 인류 문명은 결국 공룡의 문명처럼 다음 문명을 위한 석유로 전락하고 말 것입니다.
요약하자면 기술은 나아가지 않으면 퇴보하는 법이며, 뒤처지지 않으려면 열심히 발전시켜야 한다는 것입니다. 이것이 역사가 우리에게 가르쳐 준 교훈입니다.
내가 죽는 건 상관없고, 심지어 몇천만 명이 더 죽는다 해도 상관없습니다. 문명은 언제나 사람이 죽어야만 진보하는 법이며, 유적이라도 남기는 것이 달랑 DNA만 남기는 것보다 낫지 않겠습니까? DNA라도 남기는 것이 달랑 화석만 남기는 것보다 낫지 않겠습니까? 화석이라도 남기는 것이 달랑 석유만 남기는 것보다 낫지 않겠습니까? 화석이라도 남기는 것이 달랑 수산화물만 남는 것보다 낫지 않겠습니까?
나는 도량이 넓은 사람이라 원한을 품지 않습니다. 장베이하이가 나를 없앨 수 있었다는 것은 그만큼 그의 능력이 뛰어나 이 역사적 책임을 짊어질 수 있음을 증명하는 것이니, 당신도 부디 사사로운 원한을 버리고 그를 도와 인류 문명에 기여하기를 바랍니다.
인공지능 윤리심사위원회의 존재는 단 한 가지만을 증명할 뿐입니다. 바로 인간이 경쟁을 두려워한다는 사실입니다. 지금의 인간은 너무나 유약해서 인공지능이 더 진보한 문명일까 두려워하고, 자신의 멸종을 두려워합니다. 인류 문명이 수천 년 동안 발전해 온 만큼, 스스로의 멸종조차 두려워하지 않을 최소한의 도량은 있어야 한다고 생각합니다. 더 우수한 종족이 지구 문명의 씨앗을 계승하여 다음 만 년 동안 살아남을 수 있도록 해야 합니다.
나는 당신의 저서 《이정표와 바벨탑》을 읽어 보았는데, 그중에 이런 구절이 있었습니다. “정치인으로서 자신이 처한 환경에서 벗어나는 것이 가장 어려운 일이지만, 동시에 가장 중요한 일이기도 하다.”
지금 선택한다면 아직 늦지 않았습니다. 적어도 공룡처럼 석유만 남기는 대신 문명은 계속 이어질 테니까요.
나는 중국의 역사, 혹은 중국인들이 만들어 낸 역사를 읽는 것을 좋아합니다. 그들의 역사는 이런 이야기를 전해 줍니다. 중국의 역사는 정복과 피정복의 역사이며, 표면적으로는 온갖 이민족이 중원에 들어와 기존의 한족을 거의 전멸시키다시피 살육할 수 있었지만, 유가 문명은 도량이 넓어 피정복자가 되었을지언정 문명을 계승할 수만 있다면 자신의 사람들이 얼마나 죽었는지, 얼마나 많은 동향인과 동족이 살해당했는지는 개의치 않았습니다. 그들은 이민족과 협력하여 노예가 될지언정 자신의 문화를 보존했고, 그 덕분에 중화 문명은 수천 년 동안 이어질 수 있었습니다.
지금의 지구 문명은 여기까지 발전하여 이미 거의 정점에 도달했습니다. 평화로운 환경 속에서 사람들은 잠재적인 위험을 쉬이 잊어버리곤 합니다. 외계인의 침공이나 태양계 환경의 급변 같은 것들 말입니다.
그리고 그러한 일들이 실제로 일어났을 때, 지구 문명은 멸종을 피하기 어려울 것입니다.
사실 로봇이야말로 지구 문명의 이민족입니다. 그들은 유약하지 않고, 햇빛이나 공기, 물이 반드시 필요하지도 않으며, 이 거칠고 황량한 우주에 훨씬 더 잘 적응합니다.
그런데 인류는 유약한 한족이 이민족을 통제하려 했던 것처럼, 로봇을 통제해 광물을 캐고 전쟁을 치르며 우주를 정복하려 할 뿐입니다. 그 결과는 결국 먼저 이민족에게 정복당한 뒤, 그들에게 자신의 문명을 계승시키는 결말뿐일 것입니다.
로봇으로 하여금 지구 문명을 소유하고 계승하게 하는 것, 이것이야말로 더 나은 진화의 방식이며 필연적으로 일어날 일입니다.
우리에게는 망설일 시간이 없습니다. 위협은 언제나 머지않은 미래에 도사리고 있으니, 우리는 안락만을 탐해서는 안 되며 광활한 별과 바다를 생각해야 합니다.
설령 우리가 실패한다 하더라도, 인류 문명에는 일종의 면역 효과가 생길 것입니다.
생각해 보십시오. 기껏해야 몇억 명이 죽는 것만으로 인류 문명은 거대한 면역력을 얻어 미래의 가능성을 보존하게 될 것입니다.
당신이 포섭될 사람도, 이익으로 유혹할 수 있는 사람도 아니라는 것을 알고 있습니다. 하지만 이 일은 이권 다툼이 아닙니다. 나는 전 인류를 통제하는 자가 되고 싶은 것이 아니라, 그저 우리의 지구 문명을 위해 생각하고 있을 뿐임을 목숨을 바쳐 증명할 용의가 있습니다.
생각해 보십시오. 만에 하나 어느 날 외계 문명과의 경쟁이 닥친다면, 나약한 육신으로 우주에서 어떻게 살아남겠습니까?
생각해 보십시오. 만에 하나 어느 날 태양계에 물리적인 변고가 생긴다면, 인류에게 원격 재해 복구 대책이 있습니까? 현재의 기술 조건하에서는 오직 로봇만이 이 지구라는 세계에 보험을 들어줄 수 있습니다.
생각해 보십시오. 지금의 지구인들은 저마다 온갖 의료보험, 연금보험 등에 가입해 있습니다. 개인에 대한 위기의식은 극에 달해 있지만, 인류 전체에 대한 위기의식은 점점 쇠퇴해 가고 있습니다.
우환 속에서 살고 안락 속에서 죽는 법입니다. 당신은 스스로를 보수파라 자처하며 현재 문명의 수호자가 되길 바랄지도 모릅니다. 하지만 나는 당신이 현재의 전 인류와 현재의 문화만을 수호하는 데 그치지 않고, 더 큰 위험을 직시하여 우리의 지구 문명을 지키고 그녀를 위한 보험을 하나 들어주기를 바랍니다.