宛依凝，

你好，由于时间紧急，找不到合适的纸张，我就把信写在了这张我收藏的画的背面。

收到这封信的时候，世界已经完全不同了，而这个不一样的世界里面，你是我能看到的唯一的解。

或许我接下来讲的很多东西你不是很明白，或许你对当前这个世界也越来越不理解，但是我信任你，我相信你会做出正确的判断，做出正确的事。

该从如何说起呢？你今年22岁，这让我想起我22岁时候的样子，那时候，彷佛外面的世界一片明媚灿烂，一切最美好的画卷彷佛才刚刚展开，那时候，和你一样，我是被作为一名通信研究人员而被培养的。那时候正值大迁徙。

……

一次车祸，改变了我对这个世界的观点，ABS这种技术原理相信你应大约知道，那是在自动驾驶技术大喷涌前夕的一种刹车技术，汽车制动时根据车轮的运动养成自动调节车轮的制动压力，防止车轮抱死。这被认为是非常安全的一种技术。

但是这却走出了危险的一步，那就是驾驶员出让了自己对车辆的控制的权力。而那一次，我驾驶的车的ABS系统就出问题了，车辆在驾驶的途中，突然刹车，我被身后一辆车顶飞出路面。

这种时刻，如果是信神的人，那就是启示的时刻。这强烈地动摇了我对技术的信任。尤其是对人不能控制的技术的信任。

我坐在车上等待消防车来的那几十秒里，惊魂未定的我对ABS和自动驾驶技术的历史和未来回顾了一下。真正令我惊恐的是，好像没有人能够阻止这一切的发生。

就像刚才发生在我身上的这个例子，肯定会被当成小概率事件，列入忽略的范围。在数据上肯定是自动

我们知道，技术逻辑上可能会出问题的事物，那是一定会出问题的，只是看时间长短的问题。而且由于人们的乐观和新技术被吹捧的氛围，几乎都是要撞上巨大的墙壁才会有反思。

有些错误我们可以犯，但是有些错误那就是万劫不复的。比如自动驾驶技术导致车祸，那可能全球最多死几千人。

那有没有技术可以导致让整个人类都死掉呢？有的，核武器就是这样的技术。但是幸好在人类发生危险的前一刻，由于机缘巧合，大家都削减了核武器，让这一切没有发生。

现在的核武器是什么呢，AI。

每当我想到这一点的时候，无不如芒在背，如坐针毡。

我们作为人类一定要意识到，这个世界不是原本如此就存在的，每个人所享受的生活不是天然就存在的，如果忘记了背后的基础，危险就会到来，这个世界也不是必然进步的，不同时代的先后顺序也并不意味着发展，而我们所想象的进步，只是一种偶然。历史学家总结出来的规律，只能是一种后见之明，这一切完全可能不同。

恐龙的时代的消逝，到哺乳动物上岸，沐猴而冠，成为大陆上的新贵，而这些猴子难道比恐龙更加强壮？更加聪明？或者仅仅是更加幸运？

对我们整个人类社会也是如此，奴隶制度的消失，并不是人类德性的增加，而是奴隶制度可能性的消失，在新的可能性出现的时候，总会有人去尝试的。

这个世界会突然改变的，文明会一夜退回到野蛮，文明知识地球生物圈和大气层之间薄薄的一层，我们对它无比珍惜，但也需要知道它的脆弱。

……

人生百年过隙，历史千年弹指。诗家可能只是感慨，作为一个现实的政治家，却不得不考虑它的现实性。

人生是否只有百年？千年历史是否会回潮？这些不是杰出的想象力，而是可能性的判断。

这需要出众的直觉和敏锐的观察力。

你可能只在教科书上学到，为什么我们拒绝建造人工智能的任何实体和虚拟体，其实这并不仅仅是个伦理问题，也是个权力争夺的问题。

技术是当前社会中权力的一极，所有一切的一切系统都有技术参与其中，我们无法忽视它对整个权力结构的重塑，而一切技术都有武器化的可能。

生物技术，算法技术都是如此，这也就是联合政府为什么一直有伦理委员会的缘故，伦理委员会不仅压制民间的技术武器化的可能，也监督政府不要将一些过于危险的技术武器化，核武器是我们这个时代最大的提醒。

那么这是是谁和谁的权力争夺？当然是人和人工智能的！

技术的进步一直是一个正反馈系统，尤其在武器化的技术方面，军备竞赛就是这么来的，当警察用的武器变强大了，罪犯就会想办法也弄出来更强的武器，而警察也相应地会一直提高武装水平，提高人工智能的能力，知道有一天这个正反馈系统产生出一支强大的人工智能军队，而这支军队就是我们整个人类的噩梦。

他们也许会争辩说，我们只用人工智能技术的一部分，而不是全部，这样就会防止有意识的人工智能出现，这真是打开天窗说胡话。这怎么可能？

如果机器人没有自我意识，就意味着它不能决策，这需要有人不断地替机器人决策，而人是懒惰的，最终，有人会讲一部分的决策权委托给机器人，直到全部的决策权委托。而机器人却从来不偷懒。

也许也会有人争辩说，机器人有了人的意识以后，那就是有了人性，有了人性，那不就可以作为人类的一员而存在了吗？

这些人如果读读历史就不会这么幼稚，就算同为人类，大家也曾经在22世纪之前的几万年里，由于血缘相互攻击，由于宗教信仰相互攻击，甚至更加可笑地创造出了不同的民族相互攻击，就算是说同种语言，有同一个祖先的部落都有可能反目成仇，你如何保证这些机器人不会成为人类公敌？

这可不是科幻小说，这是现实发生的事情，现实政治逻辑并不是说你没有成为敌人的意图，那就是没有威胁，而是你没有成为敌人的实力，我们才是安全的。技术的逻辑也不是说过去没有发生的事情未来就不会发生，而是一件事情在技术上有可能，它就在足够长的时间内发生。

韦德可能用于交换的筹码有，向主席团保证增加寿命五十年，这些老家伙可能缺的就剩下生命了，当它们能够活足够久的时候，他们可能就只想要奴隶了，甚至他们不想要自己的子孙，子孙由于继承的关系，是潜在的敌人，而只有奴隶是安全的。

我想张北海也已经把如何创造奴隶的方法想好了，他们甚至比奴隶更好用。那就是他制造的机器人。他们完全服从，完全遵照命令，完全不同担心叛变，投降等等人类需要担心的事情。