爱吧机器人网 » 专题 > 观点 > 正文

马斯克:人工智能存在潜在威胁 安全成发展最大挑战

为了迎接即将到来的人工智能时代,越来越多的人开始投身其中,参与研发创新工作,伊隆·马斯克(EION Musk)便是其中之一,不过在研发人工智能技术的同时,他也是人工智能威胁论的支持者之一,他认为,人工智能的发展,确实会给人类社会带来一定的威胁,而且这种威胁的几率好很高。在接受采访时,这位科技名人声称,我们确保人工智能安全的概率仅有5%到10%。

马斯克
 

前景不妙

对人工智能可能对人类社会造成的负面影响以及自身疯狂发展方面,伊隆·马斯克进行了大量的思考。这些思考让他相信,如果人类要存续下去就需要与机器相结合,他甚至创建了一家生物技术公司致力于开发实现这一目标所需的脑机接口技术。尽管他自己的人工智能实验室OpenAI已经开发出具备自我学习功能的人工智能,但是马斯克最近表示,要使人工智能绝对安全,我们只有“5%到10%的成功几率”。

根据最近Rolling Stone上发表的文章,马斯克与生物技术公司Neuralink的员工分享了这些信息。尽管马斯克大力参与人工智能技术的研发,但他公开宣称,这项技术不仅会带来好处,也会给人类社会带来严峻的问题。

人工智能技术在安全方面的挑战来自两方面。

首先,人工智能技术发展的一个主要目标是开发出比人类更聪明,而且能独立学习,不需要任何人工编程或干预的系统。这种能力所造成的影响是未知的。

事实就是机器没有道德,悔恨或情绪。未来的人工智能或许能够区分“好”和“坏”的行为,但不会有人类的感觉。

在这篇文章中,马斯克进一步阐述了人工智能目前存在的危险和问题,其中之一是少数几家公司实质上垄断了人工智能技术。在此他以谷歌的DeepMind系统为例。

马斯克说:“Facebook,谷歌、亚马逊和苹果公司都在此列,他们有更多关于用户的信息。信息的集中会带来很大的风险。那么,如果人工智能代表了一种极端的信息力量,那么谷歌是否应该由少数人来控制呢?

是否值得冒险?

专家对马斯克的论断褒贬不一。Facebook创始人马克·扎克伯格(Mark Zuckerberg)表示,他对未来的人工智能持乐观态度,称马斯克的警告“非常不负责任”。同时,史蒂芬·霍金已经公开声明,表示他相信人工智能系统风险很大,可能会完全取代人类。

俄罗斯计算机科学家谢尔盖·尼科连科(Sergey Nikolenko)是一位专门研究机器学习和网络算法的俄罗斯计算机科学家,他最近与科技网站Futurism分享了他的想法。尼科连科表示:“在人工智能权限、问题匹配以及其他相关问题上,我觉得我们仍然缺乏必要的基本理解和方法。”

至于今天的人工智能,他认为我们没有什么可担心的。尼科连科说:“我敢打赌,在当前阶段,任何神经网络都不会突然醒来,决定推翻人类。”

马斯克本人可能会同意这一点,但他的观点可能更多集中在未来人工智能身上。

我们已经开发了人工智能系统,有些能够实现自我通信,有些能够进行自我学习。虽然机器人暴动目前看起来还是科幻小说中存在的情形,但人工智能目前所取得的进步使它们看起来代表了未来的发展方向。

但是,这些恐惧并不足以让我们停下前进的步伐。我们也能够用人工智能诊断癌症,识别自杀行为,或者是阻止性交易。

这项技术在全球范围内有挽救和改善生命质量的潜力,所以虽然我们必须考虑通过未来的监管来确保人工智能的安全,马斯克的警告最终只是一个人的意见。

他甚至还向Rolling Stone表示:“我并没有全部的答案。我真的想清楚所采取的哪些行动能够带来更美好的未来。如果你有这方面的建议,请告诉我到底是什么。“


上一篇:科大讯飞副总裁赵志伟:人工智能将迎来第三次产业浪潮
下一篇:希拉里·克林顿:美国对人工智能的经济和社会影响“完全没有准备”
精选推荐
从AI中窥探人性
从AI中窥探人性

[2018-01-03]  人们对人造智能的恐惧早已成为科幻书籍和电影的极好题材。但现在,一些同样的担忧开始影响关于现实世界AI技术的政策讨论。如果这样的担忧演变成为一种技术恐慌...

全自动膝关节置换手术机器人被美国FDA批准上市
全自动膝关节置换手术机器人被美国FDA批准上市

[2019-10-14]  美国Think Surgical公司已获得美国食品和药物管理局(FDA)的批准,在美国销售用于全膝关节置换(TKA)的TSolution One®全膝关节应用 ...

什么是机器人学?机器人学简介
什么是机器人学?机器人学简介

[2017-12-14]  机器人学是工程学与科学的交叉学科,包括机械工程,电气工程,计算机科学等。机器人技术涉及机器人的设计、制造、操作和应用,以及用于控制、感官反馈和信息处理的计算机系统。...

基于生物启发的机器人很容易适应丢失附属器官
基于生物启发的机器人很容易适应丢失附属器官

[2017-12-17]  很多机器人被设计应用在危险环境,如灾难现场。在这些地方,他们的运动系统完全有可能被损坏。那这样会吓跑这些机器人吗?也许不是,如果它们像日本的东北和北海道大学创造的......

九台“猎豹”机器人组队踢球,麻省理工高材生们的高级趣味
九台“猎豹”机器人组队踢球,麻省理工高材生们的高级趣味

[2019-11-09]  本周,在麻省理工学院10号楼外草坪上展开了一场别开生面的足球比赛。在绿草如茵的基利安球场上,一群由人工智能驱动的机器人就是这场比赛的 ...

助力卷积神经网络时空特征学习 史上最大行人重识别视频数据集被提出
助力卷积神经网络时空特征学习 史上最大行人重识别视频数据集被提出

[2017-12-25]  本文提出了一个大型的、长序列的、用于行人重识别的视频数据集,简称LVreID。与现有的同类数据集相比,该数据集具有以下特点:1)长序列:平均每段视频序列长为200帧,包含丰......

可编辑神经网络,有望简化深度学习?
可编辑神经网络,有望简化深度学习?

[2019-10-04]  深度学习是一个计算繁重的过程。 降低成本一直是 Data curation 的一大挑战。 关于深度学习神经网络大功耗的训练过程,已经有研究人员 ...

机器人从工业走向家庭  库卡KUKA目标是引领中国市场
机器人从工业走向家庭 库卡KUKA目标是引领中国市场

[2017-12-08]  机器人正在改变着人们的生活方式,而库卡KUKA想要在中国这个大蛋糕中占有一块大份额,库卡公司正在引领市场...

本周栏目热点

2020年中国AI基础数据服务行业发展报告

[2020-04-03]  核心摘要:目前人工智能商业化在算力、算法和技术方面基本达到阶段性成熟,想要更加落地,解决行业具体痛点, 需要大量经过标注处理的相关 ...

[1970-01-01]    从首尔清潭洞SM娱乐公司大楼代表办公室的落地窗可以清晰地眺望对面的汉江。李秀满会长介绍拥有代表办公室和录音室的建筑物是工作室中心 ...

[1970-01-01]    虽然我国经济增速下降,通缩若隐若现,但由于我国劳动力人口在2012年已经达到顶峰,之后总量呈逐年下降之势,所以即使近几年产业工人工 ...

腾讯思享会:探讨智能社会与人类未来

[1970-01-01]    人类在享受开车的过程时,在不久的将来可能让机器开车,人类如不是理性的控制机器人,又将一场持久的大战。  以智能社会与人类未来为 ...

[1970-01-01]    机器人发展到今天到了重新定义的时候,机器人拥有人类的感知和思维、应用到更多领域,成为现代机器人产业发展的新方向,由此看出中国机 ...