爱吧机器人网 » 专题 > 观点 > 正文

马斯克:人工智能存在潜在威胁 安全成发展最大挑战

为了迎接即将到来的人工智能时代,越来越多的人开始投身其中,参与研发创新工作,伊隆·马斯克(EION Musk)便是其中之一,不过在研发人工智能技术的同时,他也是人工智能威胁论的支持者之一,他认为,人工智能的发展,确实会给人类社会带来一定的威胁,而且这种威胁的几率好很高。在接受采访时,这位科技名人声称,我们确保人工智能安全的概率仅有5%到10%。

马斯克
 

前景不妙

对人工智能可能对人类社会造成的负面影响以及自身疯狂发展方面,伊隆·马斯克进行了大量的思考。这些思考让他相信,如果人类要存续下去就需要与机器相结合,他甚至创建了一家生物技术公司致力于开发实现这一目标所需的脑机接口技术。尽管他自己的人工智能实验室OpenAI已经开发出具备自我学习功能的人工智能,但是马斯克最近表示,要使人工智能绝对安全,我们只有“5%到10%的成功几率”。

根据最近Rolling Stone上发表的文章,马斯克与生物技术公司Neuralink的员工分享了这些信息。尽管马斯克大力参与人工智能技术的研发,但他公开宣称,这项技术不仅会带来好处,也会给人类社会带来严峻的问题。

人工智能技术在安全方面的挑战来自两方面。

首先,人工智能技术发展的一个主要目标是开发出比人类更聪明,而且能独立学习,不需要任何人工编程或干预的系统。这种能力所造成的影响是未知的。

事实就是机器没有道德,悔恨或情绪。未来的人工智能或许能够区分“好”和“坏”的行为,但不会有人类的感觉。

在这篇文章中,马斯克进一步阐述了人工智能目前存在的危险和问题,其中之一是少数几家公司实质上垄断了人工智能技术。在此他以谷歌的DeepMind系统为例。

马斯克说:“Facebook,谷歌、亚马逊和苹果公司都在此列,他们有更多关于用户的信息。信息的集中会带来很大的风险。那么,如果人工智能代表了一种极端的信息力量,那么谷歌是否应该由少数人来控制呢?

是否值得冒险?

专家对马斯克的论断褒贬不一。Facebook创始人马克·扎克伯格(Mark Zuckerberg)表示,他对未来的人工智能持乐观态度,称马斯克的警告“非常不负责任”。同时,史蒂芬·霍金已经公开声明,表示他相信人工智能系统风险很大,可能会完全取代人类。

俄罗斯计算机科学家谢尔盖·尼科连科(Sergey Nikolenko)是一位专门研究机器学习和网络算法的俄罗斯计算机科学家,他最近与科技网站Futurism分享了他的想法。尼科连科表示:“在人工智能权限、问题匹配以及其他相关问题上,我觉得我们仍然缺乏必要的基本理解和方法。”

至于今天的人工智能,他认为我们没有什么可担心的。尼科连科说:“我敢打赌,在当前阶段,任何神经网络都不会突然醒来,决定推翻人类。”

马斯克本人可能会同意这一点,但他的观点可能更多集中在未来人工智能身上。

我们已经开发了人工智能系统,有些能够实现自我通信,有些能够进行自我学习。虽然机器人暴动目前看起来还是科幻小说中存在的情形,但人工智能目前所取得的进步使它们看起来代表了未来的发展方向。

但是,这些恐惧并不足以让我们停下前进的步伐。我们也能够用人工智能诊断癌症,识别自杀行为,或者是阻止性交易。

这项技术在全球范围内有挽救和改善生命质量的潜力,所以虽然我们必须考虑通过未来的监管来确保人工智能的安全,马斯克的警告最终只是一个人的意见。

他甚至还向Rolling Stone表示:“我并没有全部的答案。我真的想清楚所采取的哪些行动能够带来更美好的未来。如果你有这方面的建议,请告诉我到底是什么。“


上一篇:科大讯飞副总裁赵志伟:人工智能将迎来第三次产业浪潮
下一篇:希拉里·克林顿:美国对人工智能的经济和社会影响“完全没有准备”
精选推荐
亚马逊CEO杰夫·贝佐斯操控巨型有人驾驶机器人(巨型机甲)
亚马逊CEO杰夫·贝佐斯操控巨型有人驾驶机器人(巨型机甲)

[2017-03-21]  近日,亚马逊CEO杰夫·贝佐斯实现了每一个6岁儿童都会有的梦想,他控制了一个巨大的机甲机器人。据国外媒体Verge报道,前天(3月19日),贝 ...

CES 2018:英特尔推出49量子位芯片争夺量子霸权
CES 2018:英特尔推出49量子位芯片争夺量子霸权

[2018-01-10]  在与Google、IBM的一场关于建立量子计算系统的马拉松比赛中,英特尔通过了一个关键的里程碑。近日,这个科技巨头已经推出了一个49个量子位 ...

MIT用深度学习处理3D点云数据 应用于无人汽车等领域
MIT用深度学习处理3D点云数据 应用于无人汽车等领域

[2019-10-23]  如果你见过自动驾驶汽车,也许会对车顶上那个一直在旋转的圆柱体感到好奇。这是一个雷达传感器,无人驾驶汽车依靠它在现实世界中进行导航。 ...

麻省理工又秀神技:推出如魔法般跳跃的方块机器人集群
麻省理工又秀神技:推出如魔法般跳跃的方块机器人集群

[2019-10-31]  几天前,小编向大家介绍过麻省理工(MIT)研发的一种自组装机器人集群(点此阅览),它们可以用统一标准的小单元自动组装出各种大型结构。 ...

从AI中窥探人性
从AI中窥探人性

[2018-01-03]  人们对人造智能的恐惧早已成为科幻书籍和电影的极好题材。但现在,一些同样的担忧开始影响关于现实世界AI技术的政策讨论。如果这样的担忧演变成为一种技术恐慌...

美国Natilus公司试飞水上无人货机 设计简单成本降低
美国Natilus公司试飞水上无人货机 设计简单成本降低

[2017-12-28]  Natilus创业公司成立于2014年,其梦想是建造大型无人机,以半价提供比船舶快得多国际货运。在十二月份,Natilus计划在旧金山湾测试一个9米翼展的小型原型无人机的水上滑行能力......

南加州大学机器人学家:机器人更适合粗暴的爱
南加州大学机器人学家:机器人更适合粗暴的爱

[2019-11-07]  图片来自JOHN MADERE GETTY IMAGES打是疼骂是爱,当人类粗暴的将物体从机器人手中敲掉,看似残忍,实际上却能帮助机器人找到最好的握持物 ...

[2018-01-26]  纽约时报的报道,德国的研究人员已经开发出一种长约七分之一英寸的机器人,首先看起来不过是一小块橡皮条。然后它开始移动。机器人走路,跳跃,爬行,滚动和游泳。它甚至爬出......

本周栏目热点

2020年中国AI基础数据服务行业发展报告

[2020-04-03]  核心摘要:目前人工智能商业化在算力、算法和技术方面基本达到阶段性成熟,想要更加落地,解决行业具体痛点, 需要大量经过标注处理的相关 ...

[1970-01-01]    从首尔清潭洞SM娱乐公司大楼代表办公室的落地窗可以清晰地眺望对面的汉江。李秀满会长介绍拥有代表办公室和录音室的建筑物是工作室中心 ...

[1970-01-01]    虽然我国经济增速下降,通缩若隐若现,但由于我国劳动力人口在2012年已经达到顶峰,之后总量呈逐年下降之势,所以即使近几年产业工人工 ...

腾讯思享会:探讨智能社会与人类未来

[1970-01-01]    人类在享受开车的过程时,在不久的将来可能让机器开车,人类如不是理性的控制机器人,又将一场持久的大战。  以智能社会与人类未来为 ...

[1970-01-01]    机器人发展到今天到了重新定义的时候,机器人拥有人类的感知和思维、应用到更多领域,成为现代机器人产业发展的新方向,由此看出中国机 ...