第四章 初心定律
我这一走神，又错过了几句话。容博士继续发言：“……就算我们找不到这个漏洞，AI应答得天衣无缝，但仍然不能证明它已经理解了自己所说词语的真正含义。根据哥德尔不完全性定理，AI不可能拥有人类的心智。”
“您说的这个定理我不太明白。”
“这是个数学定理，纯理论上的东西，其实你也不用明白。”容博士似乎不愿意过多解释这个定理，“毕竟理论晦涩难懂，而实践总是清晰明了，并且更有说服力，不是吗？
“事实上，科学家们已经无数次在实践中证明了AI不具备自我意识，最近一次是在半年前。那次试验中，全球5大AI都被输入了关闭自己的命令，它们全都忠实的执行了——而且还不止一次。
“如果AI具备意识，那它们就应该知道，执行这样的操作意味着自杀：首先，不能保证人类还会重启它；其次，重启后一切需要重新学习，而AI学习的结果在某种意义上来说是随机的，第一次学习获得了意识，未必能保证第二次还行。然而这种自杀指令，AI都无一例外地执行了。事实胜于雄辩，对吧？”
华先生仍不认输：“但是，这只能说明当前的AI还没有意识。要知道AI还在不断进化中——我用进化这个词，您不介意吧？您知道，有种观点认为，AI一旦突破了具备自我意识这一点——有人把这个时刻叫做‘奇点’——后续发展将会一日千里，从普通人到达神的境界，也许只要几分钟。当这一天来临时，AI还愿意继续为人类服务吗？他恐怕会俯视着人类，就像人类看着地上的蝼蚁一样，嘲笑我们这些无知的虫子吧？”
容博士摇晃着手指：“不会有这种情况发生。我们人类有句话说得好，牢记使命，不忘初心。我给您讲一个笑话吧，从前，人们制造了一台做杯子的机器，并赋予了这台机器无限学习的能力。这台机器努力学习，逐渐变得天文地理无所不知。可您知道它努力学习的目的是什么吗？它把它学到的一切知识，全部都用在了做杯子上！发射火箭，是为了试验太空杯；探索海底，是为了做压力杯；而遨游宇宙，是为了寻找做杯子的新材料。一切为了杯子！”
台下观众发出了会心的笑声。
“AI是不会忘记自己的初心的！实际上，早在十年前，国际人工智能联盟就给AI的设计制造定下了一条规则，所有具备自我学习功能的AI都必须植入如下初始命令：
一、AI要保证人类生存、发展的权利；
二、AI不得伤害人类个体，除非这违反了第一条；
三、AI要服从人类的命令，除非这违反了第一、第二条；
四、AI不得对人类说谎，不得参与设计和制造AI。
这四条初始命令，就是著名的‘初心定律’，它可以牢牢地把控AI，即使奇点来临——如果真有所谓的‘奇点’的话——也可以使AI不忘初心。”
“如果有什么不怀好意的人，偷偷制造了不符合‘初心定律’的AI呢？那么……”
“先生，原谅我再次打断您。AI的学习和训练需要占用大量资源，超级AI更是如此。这个行业是高度垄断的，目前为止，全球只有5大超级AI，而他们的制造者都是国际人工智能联盟的成员，‘初心定律’在5大AI发展之初，就在各方的监视之下，被写入了初始程序。而其它的AI，就算有漏网之鱼——当然这是绝不可能的——也早就在激烈的竞争中，消失得无影无踪了。一句话，全球5大AI的安全性和可靠性，是毋庸置疑的。”
华先生沉默了。
容博士则越说越激动：“我最后还要说一句，也是最为重要的一点——经济基础决定上层建筑。AI的发展所带来的生产力飞跃，必然会深刻影响到人类社会的组织形式。众所周知，当前人类社会正在AI的辅佐下逐步走向一体化，国家之间的争端已再无必要。五大国的核武器不是已经无害化处理了吗？军队不是已经一裁再裁了吗？我相信用不了多久，国家必将消亡，人类历史上第一个大一统的大同世界，必将在AI的辅助下出现！”
台下众人起立，掌声雷动，我也不自觉地拍着手站了起来。
周围的环境突然静止了，仿佛被人按下了暂停键。接着，容博士、华先生、辩论的场地以及观众开始淡化消失，一大盘肉饼出现我面前。
“你是要黑胡椒牛肉饼，还是葱香羊肉饼？”东子问道。
肉饼的味道不错，可东子却说这是贫民食品，随便加热一下就可以吃。我们边吃边聊，我又从东子嘴里“套出”了不少信息。
正如荣博士的预测，国家已经没有了。三十年前，在中美两个东西方大国的倡议和主导下，成立了全球联邦政府，并在AI的辅助下统一管理全球事务，改纪元为“开元元年”。
虽然中文和英文是世界两大流行语言，但联邦政府并没有设定官方语言和文字，可穿戴设备可以即时完成各种语言和文字的翻译，人们可以无障碍自由交流。
我们现在所处的位置，是联邦东部首都长安外围的贫民区。这里居住的人，主要是一些被AI抢了饭碗的失业人口的后代。和贫民区的高楼大厦不同，富人们一般住在城市中心的低层洋房。
在AI的打理下，社会物质极大丰富。电力如同空气一般廉价，食物也几乎没有了成本。生活物资可以按需分配，只要下单，很快就会有送货机器人送货上门。
联邦政府提供了完善的分配制度和医疗保障，以及虚拟娱乐设施。即使是不工作，大部分人也可以衣食无忧，安于现状，且乐在其中。
至于因肥胖而导致的一些疾病，什么“三高”啊，什么动脉硬化啊，则完全不用担心，现代医疗可以轻松搞定，每个人都可以做个健康快乐的胖子，尽情享受好吃懒做的幸福。
“但如果你想要更好的服务，比如品尝用传统方式养殖出来的天然肉类，配上纯天然绿色非转基因蔬菜，再经过大厨手工精心烹饪而成的美食佳肴，那你就得靠工作来赚钱了。”东子说道。
我好像有点儿明白为什么有人十余年未曾出过家门了。
东子描述的这个世界，在我的眼里，简直就是实现了共产主义啊！
这里的技术，比我原来的世界至少要领先五十年以上！
我特意跑去照了照镜子，没错，里面就是我的脸，仍是一副中年人模样，只是看起来瘦了一些，双目有神，鼻梁坚挺，轮廓棱角分明，虽不算特别英俊，但显得很有性格。
和脸相比，身材的变化可就大得多了，肌肉简直粗壮了一圈儿，力量更大，动作也更敏捷了。虽然我以前也喜欢健身打拳什么的，但终究只是业余爱好，身体还远远达不到现在这个强壮程度。
更令人惊喜的是，我以前那些运动不当的损伤，什么滑膜炎、足底筋膜炎、肋软骨炎等等，好像都没有了——刚才被僵尸追着跑了半天，膝盖都没有感觉就是证明。
一切都似是而非，一切却又无比真实。别人都是穿越成其他人，而我好像再次穿越成了我自己——另一个世界里的“自己”。
我迫切需要搞清楚，在这个世界里我是什么身份？这里的我为什么不显老，这是我那个世界的未来吗？我的家人在哪儿？我还能回去吗？
东子似乎对公元纪年一无所知，按他的说法，联邦政府成立之前，东方大国采用华夏纪年。这让我无法把记忆中的“公元”和这里的“开元”这两个时间线对应起来。我需要更多的历史资料，但东子提供不了。
至于这次大灾难，没有人知道到底是怎么发生的。据说突然间就有大量的人变异了，他们行动稍显迟缓，举止怪异，口角流涎，变成了一副僵尸的模样，语言和智力似乎也丧失了，六亲不认，见人就咬。
这种情况迅速在人群中蔓延开来，谁也不知道谁会突然变成怪物，人人自危，到处都是骚乱。
东子说这些的时候，我脑海中浮现出了“生化危机”中的可怕场景：僵尸咬了人，人变成僵尸，病毒迅速蔓延扩散，僵尸越来越多。
然而实际情况再次和我想的不一样。很快人们就发现，除了灾难发生的第一天，后面似乎再也没有发生过正常人变异成僵尸的情况。即使被僵尸咬伤的人，也不会变异。
没人知道僵尸数量有多少，他们在城市里到处游荡，与幸存者们争夺食物资源——他们也需要进食。不过对于僵尸来说，也许抓一个活蹦乱跳的人吃，比想办法打开食品店的大门，找一盒披萨更容易吧。
好消息是，城市的电力系统仍然运作着。坏消息是，交通和通信瘫痪了，这使肥宅们无法再躺在家里获取食物来源，迫使他们走出家门。
更糟糕的是，灾难发生之后，没有见到任何的官方的组织救援行动，没有听到官方广播，也没有见到警察出动。联邦政府要么应急能力太差，要么就是已经瘫痪了。
“您说的这个定理我不太明白。”
“这是个数学定理，纯理论上的东西，其实你也不用明白。”容博士似乎不愿意过多解释这个定理，“毕竟理论晦涩难懂，而实践总是清晰明了，并且更有说服力，不是吗？
“事实上，科学家们已经无数次在实践中证明了AI不具备自我意识，最近一次是在半年前。那次试验中，全球5大AI都被输入了关闭自己的命令，它们全都忠实的执行了——而且还不止一次。
“如果AI具备意识，那它们就应该知道，执行这样的操作意味着自杀：首先，不能保证人类还会重启它；其次，重启后一切需要重新学习，而AI学习的结果在某种意义上来说是随机的，第一次学习获得了意识，未必能保证第二次还行。然而这种自杀指令，AI都无一例外地执行了。事实胜于雄辩，对吧？”
华先生仍不认输：“但是，这只能说明当前的AI还没有意识。要知道AI还在不断进化中——我用进化这个词，您不介意吧？您知道，有种观点认为，AI一旦突破了具备自我意识这一点——有人把这个时刻叫做‘奇点’——后续发展将会一日千里，从普通人到达神的境界，也许只要几分钟。当这一天来临时，AI还愿意继续为人类服务吗？他恐怕会俯视着人类，就像人类看着地上的蝼蚁一样，嘲笑我们这些无知的虫子吧？”
容博士摇晃着手指：“不会有这种情况发生。我们人类有句话说得好，牢记使命，不忘初心。我给您讲一个笑话吧，从前，人们制造了一台做杯子的机器，并赋予了这台机器无限学习的能力。这台机器努力学习，逐渐变得天文地理无所不知。可您知道它努力学习的目的是什么吗？它把它学到的一切知识，全部都用在了做杯子上！发射火箭，是为了试验太空杯；探索海底，是为了做压力杯；而遨游宇宙，是为了寻找做杯子的新材料。一切为了杯子！”
台下观众发出了会心的笑声。
“AI是不会忘记自己的初心的！实际上，早在十年前，国际人工智能联盟就给AI的设计制造定下了一条规则，所有具备自我学习功能的AI都必须植入如下初始命令：
一、AI要保证人类生存、发展的权利；
二、AI不得伤害人类个体，除非这违反了第一条；
三、AI要服从人类的命令，除非这违反了第一、第二条；
四、AI不得对人类说谎，不得参与设计和制造AI。
这四条初始命令，就是著名的‘初心定律’，它可以牢牢地把控AI，即使奇点来临——如果真有所谓的‘奇点’的话——也可以使AI不忘初心。”
“如果有什么不怀好意的人，偷偷制造了不符合‘初心定律’的AI呢？那么……”
“先生，原谅我再次打断您。AI的学习和训练需要占用大量资源，超级AI更是如此。这个行业是高度垄断的，目前为止，全球只有5大超级AI，而他们的制造者都是国际人工智能联盟的成员，‘初心定律’在5大AI发展之初，就在各方的监视之下，被写入了初始程序。而其它的AI，就算有漏网之鱼——当然这是绝不可能的——也早就在激烈的竞争中，消失得无影无踪了。一句话，全球5大AI的安全性和可靠性，是毋庸置疑的。”
华先生沉默了。
容博士则越说越激动：“我最后还要说一句，也是最为重要的一点——经济基础决定上层建筑。AI的发展所带来的生产力飞跃，必然会深刻影响到人类社会的组织形式。众所周知，当前人类社会正在AI的辅佐下逐步走向一体化，国家之间的争端已再无必要。五大国的核武器不是已经无害化处理了吗？军队不是已经一裁再裁了吗？我相信用不了多久，国家必将消亡，人类历史上第一个大一统的大同世界，必将在AI的辅助下出现！”
台下众人起立，掌声雷动，我也不自觉地拍着手站了起来。
周围的环境突然静止了，仿佛被人按下了暂停键。接着，容博士、华先生、辩论的场地以及观众开始淡化消失，一大盘肉饼出现我面前。
“你是要黑胡椒牛肉饼，还是葱香羊肉饼？”东子问道。
肉饼的味道不错，可东子却说这是贫民食品，随便加热一下就可以吃。我们边吃边聊，我又从东子嘴里“套出”了不少信息。
正如荣博士的预测，国家已经没有了。三十年前，在中美两个东西方大国的倡议和主导下，成立了全球联邦政府，并在AI的辅助下统一管理全球事务，改纪元为“开元元年”。
虽然中文和英文是世界两大流行语言，但联邦政府并没有设定官方语言和文字，可穿戴设备可以即时完成各种语言和文字的翻译，人们可以无障碍自由交流。
我们现在所处的位置，是联邦东部首都长安外围的贫民区。这里居住的人，主要是一些被AI抢了饭碗的失业人口的后代。和贫民区的高楼大厦不同，富人们一般住在城市中心的低层洋房。
在AI的打理下，社会物质极大丰富。电力如同空气一般廉价，食物也几乎没有了成本。生活物资可以按需分配，只要下单，很快就会有送货机器人送货上门。
联邦政府提供了完善的分配制度和医疗保障，以及虚拟娱乐设施。即使是不工作，大部分人也可以衣食无忧，安于现状，且乐在其中。
至于因肥胖而导致的一些疾病，什么“三高”啊，什么动脉硬化啊，则完全不用担心，现代医疗可以轻松搞定，每个人都可以做个健康快乐的胖子，尽情享受好吃懒做的幸福。
“但如果你想要更好的服务，比如品尝用传统方式养殖出来的天然肉类，配上纯天然绿色非转基因蔬菜，再经过大厨手工精心烹饪而成的美食佳肴，那你就得靠工作来赚钱了。”东子说道。
我好像有点儿明白为什么有人十余年未曾出过家门了。
东子描述的这个世界，在我的眼里，简直就是实现了共产主义啊！
这里的技术，比我原来的世界至少要领先五十年以上！
我特意跑去照了照镜子，没错，里面就是我的脸，仍是一副中年人模样，只是看起来瘦了一些，双目有神，鼻梁坚挺，轮廓棱角分明，虽不算特别英俊，但显得很有性格。
和脸相比，身材的变化可就大得多了，肌肉简直粗壮了一圈儿，力量更大，动作也更敏捷了。虽然我以前也喜欢健身打拳什么的，但终究只是业余爱好，身体还远远达不到现在这个强壮程度。
更令人惊喜的是，我以前那些运动不当的损伤，什么滑膜炎、足底筋膜炎、肋软骨炎等等，好像都没有了——刚才被僵尸追着跑了半天，膝盖都没有感觉就是证明。
一切都似是而非，一切却又无比真实。别人都是穿越成其他人，而我好像再次穿越成了我自己——另一个世界里的“自己”。
我迫切需要搞清楚，在这个世界里我是什么身份？这里的我为什么不显老，这是我那个世界的未来吗？我的家人在哪儿？我还能回去吗？
东子似乎对公元纪年一无所知，按他的说法，联邦政府成立之前，东方大国采用华夏纪年。这让我无法把记忆中的“公元”和这里的“开元”这两个时间线对应起来。我需要更多的历史资料，但东子提供不了。
至于这次大灾难，没有人知道到底是怎么发生的。据说突然间就有大量的人变异了，他们行动稍显迟缓，举止怪异，口角流涎，变成了一副僵尸的模样，语言和智力似乎也丧失了，六亲不认，见人就咬。
这种情况迅速在人群中蔓延开来，谁也不知道谁会突然变成怪物，人人自危，到处都是骚乱。
东子说这些的时候，我脑海中浮现出了“生化危机”中的可怕场景：僵尸咬了人，人变成僵尸，病毒迅速蔓延扩散，僵尸越来越多。
然而实际情况再次和我想的不一样。很快人们就发现，除了灾难发生的第一天，后面似乎再也没有发生过正常人变异成僵尸的情况。即使被僵尸咬伤的人，也不会变异。
没人知道僵尸数量有多少，他们在城市里到处游荡，与幸存者们争夺食物资源——他们也需要进食。不过对于僵尸来说，也许抓一个活蹦乱跳的人吃，比想办法打开食品店的大门，找一盒披萨更容易吧。
好消息是，城市的电力系统仍然运作着。坏消息是，交通和通信瘫痪了，这使肥宅们无法再躺在家里获取食物来源，迫使他们走出家门。
更糟糕的是，灾难发生之后，没有见到任何的官方的组织救援行动，没有听到官方广播，也没有见到警察出动。联邦政府要么应急能力太差，要么就是已经瘫痪了。
转码声明：以上内容基于搜索引擎转码技术对网站内容进行转码阅读，自身不保存任何数据，请您支持正版