Una carta para Lu Youqi
Seguro sabes lo que quiero, y yo también sé lo que estás pensando.
Es verdad, esto provocará una carrera armamentista tecnológica; el impacto que la tecnología causa en la sociedad es irreversible y las autoridades sin duda saldrán victoriosas en esta carrera, lo sé por mero sentido común de mi época.
El mundo entero ve esta situación como una monstruosidad, como si en cuanto ocurriera semejante competencia técnica un loco fuera a sumir a todo el planeta en el caos, o alguien fuera a emplear una tecnología más poderosa y monopolizada para controlar a toda la humanidad.
Pero debemos mirar este mundo desde una perspectiva más amplia; tenemos que darle una oportunidad.
Podría decirse que este mundo es el mejor que puedo imaginar, pero bajo la superficie en calma fluyen corrientes subterráneas, y el peligro se oculta en la apacible rutina diaria.
Sé que siempre has estudiado las inclinaciones valóricas de la tecnología, pero quizás hayas pasado por alto una de sus tendencias: la extinción de las tecnologías hipercomplejas. Aunque provengo de la era de la Era Común, hasta yo puedo ver dónde radica el problema.
Recuerdo que poco después de despertar de la hibernación apareció una mancha en la pared de mi casa. Pensaba pedirle al servicio técnico que viniera a limpiarla, pero el técnico que vino no lograba resolver el problema y casi me demuele la casa entera.
Según el sentido común de mi época, un sistema complejo no es frágil, sino robusto; por eso mi intuición me dice que cierto momento ha llegado.
Cuando no hay grandes innovaciones técnicas, los técnicos tienden a permutar y combinar las tecnologías existentes, complejizándolas para resolver problemas. Esto ha llevado a que todo lo que usamos sea cada vez más complejo en técnica y procesos. Ningún producto puede ser comprendido en su totalidad por uno o dos ingenieros, y los técnicos comunes son absolutamente incapaces de dominar todos los conocimientos fundamentales de un producto determinado. Todo el mundo solo aprende conocimientos empíricos sobre un producto específico, conocimientos que parecen vastos y diversos, pero que la mayoría de las veces son inútiles.
Es como si leyeras mil prospectos de medicamentos: no por ello te convertirás en un experto en farmacología. Y ahora toda la humanidad está formando ingenieros con tales prospectos.
Otra característica de esta era de prospectos es que la encapsulación está en pleno auge; por supuesto, un nivel adecuado de encapsulación favorece la división del trabajo y la cooperación entre ingenieros, pero un acoplamiento excesivo solo demuestra que el nivel de los ingenieros ha caído estrepitosamente, que no comprenden los principios subyacentes y que su mundo ha quedado limitado por los manuales de instrucciones.
La energía humana siempre es limitada; si uno queda atrapado remendando diversos problemas de acoplamiento, no logrará una verdadera innovación, e incluso se producirá un retroceso. Después de todo, el ser humano solo vive cien años, y los años de creatividad son apenas un puñado: una vez que pasan, no regresan.
Si esto continúa, tarde o temprano se producirá una fractura, y cuando la gente descubra el problema, ya no encontrará a nadie capaz de resolverlo. Esto sería una catástrofe para toda la humanidad, y aún más para toda la civilización.
La razón por la que una civilización llega a serlo radica en la acumulación; si cada mil años se pierde lo acumulado, en algún momento aciago nuestra civilización humana terminará como la de los dinosaurios: convertida únicamente en el petróleo de la siguiente civilización.
En resumen: en la tecnología, quien no avanza retrocede; hay que esforzarse en desarrollarla para no quedarse atrás, eso es lo que nos enseña la historia.
No importa que yo muera, ni siquiera importaría que murieran decenas de millones más: la civilización siempre necesita que muera gente para progresar. Dejar ruinas es mejor que dejar solo ADN, ¿no? ¿Dejar ADN es mejor que dejar solo fósiles, no? ¿Dejar fósiles es mejor que dejar solo petróleo, no? ¿Y dejar fósiles es mejor que dejar únicamente hidróxidos, no?
Soy una persona de mente amplia y no guardo rencores. El hecho de que Zhang Beihai pudiera eliminarme demuestra su gran capacidad y que puede asumir esta responsabilidad histórica. Espero que tú tampoco le guardes rencor, que vayas a ayudarlo y que contribuyas a la civilización humana.
La existencia del Comité de Revisión Ética de la Inteligencia Artificial solo demuestra una cosa: el temor de la humanidad a la competencia. Los humanos de hoy son demasiado delicados; temen que la inteligencia artificial sea una civilización más avanzada y temen su propia extinción. Creo que, habiéndose desarrollado durante miles de años, la civilización humana debería tener la grandeza de miras mínima como para no temer a su propia extinción. Que una raza superior herede la semilla de la civilización terrestre y sobreviva los próximos diez mil años.
Leí tu obra «Hitos y la Torre de Babel», donde hay una frase que dice: «Para un político, ser capaz de abstraerse de su propio entorno es lo más difícil, pero también lo más importante».
Todavía se está a tiempo de elegir, al menos para que la civilización continúe y no acabe como los dinosaurios, reducida solo a petróleo.
Me gusta leer la historia de China, o la historia creada por los chinos; su historia cuenta esto: la historia china es una historia de conquistas y de ser conquistados. En apariencia, diversas tribus bárbaras podían dominar las llanuras centrales y casi aniquilar a los nativos han, pero la civilización confuciana era de mente abierta: eran los conquistados, pero mientras pudieran preservar la civilización, no les importaba cuántos de los suyos murieran ni cuántos compatriotas de su etnia fueran asesinados; colaboraban con los bárbaros y, aunque se convirtieran en esclavos, preservaban su cultura, lo que permitió que la civilización china perdurara durante miles de años.
La civilización terrestre actual ha llegado casi a su cúspide; en un entorno de paz, la gente suele olvidar los riesgos latentes, como la invasión de extraterrestres o una mutación repentina en el entorno del sistema solar.
Y cuando esas cosas sucedan, la civilización terrestre difícilmente escapará de la extinción.
En realidad, los robots son los bárbaros de la civilización terrestre: no son delicados, no necesitan necesariamente luz solar, aire ni agua; están mejor adaptados a este universo salvaje.
Sin embargo, los humanos siempre piensan en controlar a los robots para la minería, la guerra y la conquista del universo, igual que los débiles han querían controlar a los bárbaros: el único desenlace posible es ser conquistados primero por los bárbaros y luego hacer que estos hereden su civilización.
Permitir que los robots posean y hereden la civilización terrestre es un camino evolutivo superior, y es algo que inevitablemente sucederá.
No tenemos tiempo para dudar; la amenaza siempre ha estado en un futuro no muy lejano. No podemos entregarnos al placer efímero: debemos pensar en el mar de estrellas.
Incluso si fracasamos, la civilización humana habrá desarrollado una especie de inmunidad.
Piénsalo: a costa de solo unos cientos de millones de muertos, la civilización humana obtendría una enorme inmunidad y preservaría las posibilidades del futuro.
Sé que no se te puede cooptar ni sobornar con beneficios, pero este asunto tampoco es una disputa de intereses. Estoy dispuesto a entregar mi vida para demostrar que no pretendo ser alguien que controle a toda la humanidad; solo estoy pensando por el bien de nuestra civilización terrestre.
Piénsalo: si algún día llega la competencia de civilizaciones alienígenas, ¿cómo sobrevivirá un cuerpo de carne y hueso tan frágil en el universo?
Piénsalo: si un día ocurriera una catástrofe física en el sistema solar, ¿cuenta la humanidad con medidas de recuperación ante desastres en otra ubicación? En las condiciones técnicas actuales, solo los robots podrían contratar un seguro para este mundo terrestre.
Piénsalo: hoy en día, cada uno de nosotros en la Tierra ha contratado todo tipo de seguros médicos, de pensiones, etcétera. La conciencia preventiva a nivel individual ha llegado al extremo, pero la conciencia preventiva para la humanidad en su conjunto decae cada vez más.
«La adversidad engendra la vida, la comodidad engendra la muerte». Sé que podrías jactarte de ser conservador, dispuesto a erigirte en guardián de la civilización actual, pero no quiero que solo protejas a toda la humanidad actual y a la cultura actual; debes ver los peligros mayores, proteger nuestra civilización terrestre y contratar un seguro para ella.