爱吧机器人网 » 专题 > 观点 > 正文

智能机器人引伦理忧虑 是否成未来世界梦魇?

   阿尔法狗击败围棋世界冠军李世石,让我想起了30多年前看过的一部美国科幻电影:“未来世界”。

  这是一部描写机器人妄图统治人类的片子。未来世界的机器人认为人是变化无常的,没有理性的残暴的。他们的任务就是复制人类,最后消灭人类的原型,达到由机器人统治世界的目的。具体的工作就是在人类中输入他们的程序,听从他们的指挥。而这些复制品完全就是生物学上的人类,没有一丝机器痕迹。

  这部充满科幻意味的电影在刚打开封闭大门、改革开放不久的中国,引起很大的轰动,记得我前后看了6次,至今清楚里面的细节。

  30多年后,未来世界像是真的要来了,这就是电脑围棋阿尔法狗在前三局就以3比0击败了获得世界围棋冠军头衔最多的李世石。第三盘比赛,李世石全盘没有一点机会,赛后人们一片沉默,心情沉重。

  围棋是世界上最难,也是变化最多的棋类游戏。专家说,国际象棋的变化是10的60次方,而围棋则是之后的170个零,比全世界的沙粒加起来还要多,这就是围棋变化无穷的原因。

  如果仅仅从难度来看,电脑的聪明其实并不可怕。真正可怕的,是它能够自我编程,也就能够自我修补、自我提高。李世石第二盘结束后连夜与人研究复盘对策,殊不知阿尔法狗也没闲着,据阿尔法狗团队的工程师介绍,阿尔法狗也在自行复盘、研究、寻找最佳的着点。如果用量来计算,电脑的运算速度是人脑完全无法比拟的,量则更是李世石团队不可企及的。它的自我学习能力能够到了人类达不到的高度,这也是为什么阿尔法狗能够越战越好的原因了。比较几个月前5比0战胜欧洲冠军的棋局,人们惊叹“进步神速!”

  昨天在第四局的比赛前,几乎所有人相信阿尔法狗一定会再次轻取。但也有人警告,阿尔法狗会不会故意放水?如果阿尔法狗真的具有这样的思维,那么一定是非常危险的。讫今为止,电脑程序只是停留在逻辑思维上,如果在人类的引导下具有存在感和独立意识,则是极其危险的。因为有朝一日它将不会再臣服于人类,将用自己的价值判断力和无穷的能力,用自己的方式行事,这将会是一场灾难。

  第四局阿尔法狗输了,但愿真的是如专家所言,李世石的第78步的挖,这一人类从来没有用过的“莫名着法”让阿尔法狗看不清楚、无从应对而系统崩溃。但是阿尔法狗的主研究师赛后也说:“我们不清楚问题出在哪里,回去后将好好地研究。”这一句话也并没有给出真正的答案。

  阿尔法狗给这个世界带来了新的成就,但是也带来新的忧虑。人们担心一旦电脑机器人具有了价值判断能力,面对躺在医院里无法治愈的病人,会不会认为不能再让其消耗社会资源而拔去维持生命的管线?

  电脑机器人不好色,不贪财,没有爱好,没有喜怒哀乐的情绪变化,这正是最令人可怕之处。霍金说过一句话:“现在对人类智能的草率态度,将是人类犯的最严重和愚蠢的错误”。据悉,为应付可能出现的这类情况,谷歌和Facebook已经在考虑成立伦理小组,就像克隆技术现世后,一些国际组织和世界各国医学界达成一致意见:“严禁克隆人类”一样。

   智能机器人 会不会在未来世界变成人类的灾难?这样的忧虑是否存在?当梦魇真的来临时人类能不能坚守住自己的最后一道阵地?除了拔掉电源,还能做些什么呢?


上一篇:科学视角解读人机大战 未来3-5年能赢所有人类棋手
下一篇:三晋纹枰纵论“人机大战”(图)
精选推荐
集群机器人领域最新研究:一种用于探测未知环境的微型无人机群
集群机器人领域最新研究:一种用于探测未知环境的微型无人机群

[2019-10-26]  (图:无人机扩散至不同方向来探索环境。当一个无人机注意到另一个无人机在它的首选方向,它将试图飞到另一个方向。若首选方向冲突,低优先 ...

可编辑神经网络,有望简化深度学习?
可编辑神经网络,有望简化深度学习?

[2019-10-04]  深度学习是一个计算繁重的过程。 降低成本一直是 Data curation 的一大挑战。 关于深度学习神经网络大功耗的训练过程,已经有研究人员 ...

比利时研发出可以自我愈合伤口的软体机器人
比利时研发出可以自我愈合伤口的软体机器人

[2017-09-03]  软体机器人是机器人技术的新兴领域; 他们“可以与人类相互作用,而不会杀死他们,并拿起像西红柿这样柔软的物体。” 从长远来看,布鲁塞尔大学队伍正在努力创建一个类似的材......

智能机器人困惑的时候知道该问什么问题
智能机器人困惑的时候知道该问什么问题

[2017-03-20]   照片:Nick Dentamaro 布朗大学 上周,我们提到了麻省理工学院的一些研究,即通过链接人的大脑来帮助机器人在他们将要犯错误的时 ...

谷歌在中国成立一个新的人工智能(AI)研究中心
谷歌在中国成立一个新的人工智能(AI)研究中心

[2017-12-13]  谷歌正在中国建立一个新的人工智能(AI)研究中心,希望进一步扩展到中国,以充分利用中国高度重视的人工智能技术。人工智能是目前地球上最具竞争力的领域之一,亚马逊,微软......

从AI中窥探人性
从AI中窥探人性

[2018-01-03]  人们对人造智能的恐惧早已成为科幻书籍和电影的极好题材。但现在,一些同样的担忧开始影响关于现实世界AI技术的政策讨论。如果这样的担忧演变成为一种技术恐慌...

苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展
苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展

[2017-12-11]  苹果隐秘的自动驾驶汽车项目多年来一直在转移焦点,但今年似乎正在加速。 4月份,公司获得了在加利福尼亚州进行自动驾驶汽车测试的许可证,而在6月份,苹果公司首席执行官库......

科学家从蟑螂获得启发 教机器人更好地走路
科学家从蟑螂获得启发 教机器人更好地走路

[2017-12-11]  Weihmann指出:“我特别感到惊讶的是,动物运动稳定机制的变化与腿部协调的变化是一致的。昆虫的慢运行非常稳定,因为它的重心很低,三条腿总是以协调的方式运动。...

本周栏目热点

2020年中国AI基础数据服务行业发展报告

[2020-04-03]  核心摘要:目前人工智能商业化在算力、算法和技术方面基本达到阶段性成熟,想要更加落地,解决行业具体痛点, 需要大量经过标注处理的相关 ...

[1970-01-01]    从首尔清潭洞SM娱乐公司大楼代表办公室的落地窗可以清晰地眺望对面的汉江。李秀满会长介绍拥有代表办公室和录音室的建筑物是工作室中心 ...

[1970-01-01]    虽然我国经济增速下降,通缩若隐若现,但由于我国劳动力人口在2012年已经达到顶峰,之后总量呈逐年下降之势,所以即使近几年产业工人工 ...

腾讯思享会:探讨智能社会与人类未来

[1970-01-01]    人类在享受开车的过程时,在不久的将来可能让机器开车,人类如不是理性的控制机器人,又将一场持久的大战。  以智能社会与人类未来为 ...

[1970-01-01]    机器人发展到今天到了重新定义的时候,机器人拥有人类的感知和思维、应用到更多领域,成为现代机器人产业发展的新方向,由此看出中国机 ...