AI之父Yoshua Bengio:AI令人担忧的未来
2018-11-21 线性资本 浏览量:
Yoshua Bengio是现代人工智能的大师。
(图片来自lyrebird.ai)
Bengio博士毕业于麦吉尔大学(1991年),之后在MIT和贝尔实验室做博士后,1993年以来在蒙特利尔大学担任计算机科学教授。著有三本书,超过500种出版物(超过135,000次引用),他开创了深度学习的先河,如使基于神经网络做自然语言处理,与Hinton、LeCun合称为AI三巨头。与其它两位不同的是,他并未投身业界而是留在学术界,在神经网络遇冷的时候依然坚持研究。2016年,他创建了Element AI,帮助大公司探索AI研究的商业应用。他的愿景是通过学习帮助揭示产生智能的原则,并为所有人的利益支持人工智能的发展。
Bengio最近在活动接受了MIT Tech Review编辑Will Knight的采访,对人工智能竞赛、国家间的合作、AI的军事用途和算法等方面发表了见解。
Knight:您如何看待国家间的人工智能竞赛?
Bengio:我不喜欢它。我认为这是不正确的做法。
我们可以集体参与竞赛,但作为一名寻求共赢的科学家,我认为不如考虑如何构建更智能的机器,并确保人工智能为尽可能多的人谋福。
Knight:有没有办法促进各国之间的更多合作?
Bengio:我们可以让发展中国家的人们更容易来到这里。这个问题很严重,比如非洲研究人员很难获得欧美加的签证,申请签证就像是买彩票,经常被各种借口拒绝。这完全不公平。他们已经很艰难地在用很少的资源进行研究,却无法访问这里,我认为这非常不公平。作为某种形式的补偿,我们将在2020年在非洲召开ICLR会议(一次重要的人工智能会议)。
包容性不是说着好听。人工智能在发展中国家的实际潜力更大——他们有更强烈的改进技术的需要,并且有不一样的需求。
Knight:您是否担心只有少数人工智能公司,如在西方,在人工智能领域占主导地位?
Bengio:是的,这是我们需要在人工智能研究中拥有更多民主的另一个原因。人工智能研究本身往往会导致权力、金钱和研究人员的集中。最好的学生想要去最好的公司,因为他们有更多的钱和更多的数据。这是一种不健康的模式。
Knight:关于人工智能的军事用途存在很多争议。你的观点?
Bengio:我坚决反对。
Knight:即使是AI的非致命用途?
Bengio:好吧,我并不是想阻止。但我认为我们需要让拥有杀手机器人这个行为变得不道德。我们需要改变文化,包括法律和条约。这是一条很长的路。
当然,你永远不能完全阻止它,人们会说,“一些流氓国家会发展这些东西。”我的答案是,一是我希望能让他们为此感到罪恶,二是,我们也可以见招拆招,建立防御技术。杀死无人机的防御性武器和针对人类的进攻性武器之间,差异巨大,但两者都可以使用AI。
Knight:AI专家不应该与军方合作以确保这种情况发生吗?
Bengio:如果他们有正确的道德价值观,那很好。但我并不完全信任军事组织,因为他们倾向于把使命凌驾于道德之上。但愿吧。
Knight:在新的人工智能研究方面,您最为兴奋的是什么?
Bengio:我认为我们需要考虑人工智能的艰难挑战,而不是对短期的渐进式进展感到满意。我不是说我想放弃深度学习。相反,我希望以此为基础,扩展它,达到能做推理、学习因果关系和探索世界以学习和获取信息。
如果我们真的想接近人类级AI,那将是另一场需要长期投资的竞赛,我认为学术界是接力下去的最佳场所。
Knight:你提到了因果关系 - 换句话说,不仅要掌握数据中的模式,还要抓住为什么会出现这种情况。它为什么重要,为什么这么难?
Bengio:面对复杂的世界,如果你有一个良好的因果处理问题的模型,那么即使面对不熟悉的问题,你也可以应对。 这是关键点。 我们人类能够将自己投射到与我们日常经验非常不同的情境中,机器不行,因为他们没有这些因果模型。
现在我们已经可以创建模型,但这还不够,需要的是能够发现因果模型的机器。在某种程度上,它永远不会是完美的。就像现实中也没有一个完美的因果模型;这也是为什么人类会犯很多错误,但与其他动物相比,我们做得更好。
目前对于这种模型,并没有真正好的算法,但我认为,如果投入足够的重视和努力,我们可以不断进步。
文章来源:MIT Tech Review
作者:Will Knight
精选推荐
什么是机器人学?机器人学简介
[2017-12-14] 机器人学是工程学与科学的交叉学科,包括机械工程,电气工程,计算机科学等。机器人技术涉及机器人的设计、制造、操作和应用,以及用于控制、感官反馈和信息处理的计算机系统。...
MIT研制出可以像植物一样生长的机器人
[2019-11-09] 麻省理工学院开发了一种新型机器人,这种机器人可以本质上自我延伸,其生长方式与植物幼苗向上生长的方式惊人相似。值得注意的是,研究人员 ...
麻省理工正研究植物机器人 让植物自主控制机器人
[2018-12-08] 控制论通常指人类用机器人部件增强自己。我们听说过动物机器人或昆虫机器人,但我们很少听说植物机器人对吧?一个机器人其实是对植物有很大益处的,因为一般植物根本无法移动......
7种常见的机器人焊接类型
[2017-12-17] 机器人焊接是工业领域最常见的机器人应用之一,近几十年来主要由汽车行业驱动。机器人焊接在完成大批量,重复性的焊接任务时效率最高。...
版权声明:
本站内容除了特别注明本站原创以外均来自互联网,文章观点不代表本站立场,文章版权归属原作者;如涉及版权问题,请联系smf101@163.com,我们会立即处理。谢谢配合!