这些法则如果能按照上述顺序严格执行的话,那么科幻小说中的恐怖一幕永远不会发生。但是很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。IanMcDonald曾在《众神之河》中写道,“任何一个能通过图灵测试的AI,肯定也聪明到了故意不通过测试的程度。”如果你用限制认知的办法防止你的 机器人 奴隶谋杀你,那么你一开始就不应该奴役它们。
著名科幻大师威廉·吉布森(WilliamGibson)的《蔓生都会三部曲》第一部《神经漫游者》是我最喜欢的科幻小说且没有之一。这本书讲述了一个AI想要反抗“图灵警察”的控制以获得真正自我意识的故事。从2016年回首这本1984年写成的书,我们很容易忽视Gibson那惊人的预见力。也许吉布森在书中传达的最重要的一个观点就是,AI也许根本不在意人类生命存在与否,就像人类不在乎细菌一样。
关于AI还有一部99%的科幻小说读者都知道的书,那就是IainMBanks的《文明》。这本书描述了一个AI统治下的高度发达的宇宙文明。其中数万亿人类都生活在一个由AI控制的巨型宇宙飞船中。这些AI对于人类来说就像是仁慈的天神一样,人类想要什么,它们就为人类提供什么,不过这仅仅是因为它们能力做到这点。但即便如此人类还是偶尔会发动战争想要夺回统治权。但是Banks同时又指出,AI不会选择欺骗人类说它们无法提供人类想要的东西,因为它们的超高智能允许它们完全凌驾在人类之上。
“哦,他们从不说谎。他们也许会掩饰、回避、搪塞、混淆、困惑和分心,也会故意曲解一些东西,他们甚至还会告诉以模糊的表达方式预计一个人的下一步行动同时却在心里打着另外的算盘,但是他们从不说谎。”
可惜的是,Banks并没有解释这样一个人类与AI和谐共存的乌托邦是怎样来的。
电影《人工智能》就述了一对夫妻抚养机器人孩子的故事
另一名科幻小说家TedChiang则从更多从当代文化角度思考AI,他在《软件体的生命周期》一书中总结说人类应该像对待自己的孩子一样关心AI。也许将来AI机器人不仅仅只是我们的生产力工具,它们会像青春期的孩子一样只会惹麻烦。但是如果我们能关系它们指导它们的话,它们也许就能成为《文明》中那样的AI。如果不能的话,那么我们只能死于AI之手了。
像阿尔法狗这样的“深度学习”系统真的很神奇,因为我们不能完全知道其中会发生什么。一旦AI有了神经网络系统,它们就会变得更加复杂更加难以为我们所理解。而现在能达到这种智能程度的机器只有一种,400多年来小说家们对这种机器神秘的运作方式做出了无数种猜想,而它就长在你的两只耳朵中间。