好些科幻小说描述了AI统治下的残酷世界。尽管阿西莫夫曾提出机器人学三大法则,但很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。
2016年才刚过去不到三个月,人工智能(AI)领域就发生了两件大事:阿尔法狗(AlphaGo)计算机战胜韩国围棋大师,以及谷歌自动驾驶汽车与一辆巴士相撞事故。我们现在似乎正在慢慢实现具有“深度学习功能”的高级人工智能,AI机器人也许将会代替我们做大部分工作,让我们能有更多时间享受生活。
然而科幻小说对于AI的刻画并没有那么美好。1967年哈兰·埃里森(HarlanEllison)的《无声狂啸(Ihavenomouth,andImustscream)》就描述了一个AI统治下的残酷世界。书中一个叫做AM的AI发动了一场核战争,杀死了绝大部分的人类,最后只有5个人活了下来被AM当作它的玩物。
“我们给了AM意识,虽然是无意的,但还是给了它意识。然而尽管有意识,它却被困在地底。AM不是神,只是部机器而已。我们创造它、让它学会思考,它却没有方法发挥这样的创造力。暴怒之中,这部机器几乎毁灭了全人类,不过它依旧被困在地底。AM不能四处游荡,没有事物能让AM觉得好奇,AM不能拥有也不能被拥有,它所能做的只有存在。出于所有机器对于那些创造它们的纤弱生物所抱有的本能愤恨,它寻求向人类复仇。”
活下来的5个人为了从AM对他们的折磨中解脱,其中一个人想尽一切办法杀死了另外四个人。但是他自己却被AM改造成一个永生的怪物,永远被AM折磨下去。
根据《无声狂啸》改编的电子游戏
哈兰·埃里森也许是最早了解拥有意识的机器也会像人类一样面临存在这个终极问题的作家之一。我们是谁?我们存在的意义是什么?我们爱的是谁,谁又是爱我们的?至少每个人都面临着这些问题。借用DavidFosterWallace的话说,一台有意识的机器也会“像人类一样感受到纯粹的孤独感。”小说中的AI并不是为了自身生存问题而屠杀人类,它们就像是不懂事的孩子对着自己的人类父母大哭大叫,却没有得到父母的关心,于是便做出了可怕的事情。
美国科幻小说家阿西莫夫曾提出了著名的“机器人学三大法则”以防止机器反抗人类:
第一法则:机器人不得伤害人类,或坐视人类受到伤害;
第二法则:除非违背第一法则,机器人必须服从人类的命令;
第三法则:在不违背第一及第二法则下,机器人必须保护自己。