爱吧机器人网 » 专题 > 观点 > 正文

指望AI永远保持客观可能是一种奢望

如果你在某个周末抽空回顾十多年前的经典科幻片,就会发现好莱坞非常擅于将人工智能设置为肩负统治人类重担的终极大BOSS。无论是黑客帝国里的史密斯,还是终结者里的天网,甚至是生化危机里的红后,都体现出一种高效、理智、冷酷,视万物为蝼蚁的形象。

\

而这,也多少影响到了普通人对人工智能的认知。比如近年比较热门的无人驾驶领域,我们就经常能听到这样的声音,“如果世界上所有的汽车都交给AI来驾驶,或许就能根治由司机操作不当导致的车祸了。”

但这种“交给AI会更好”的想法,也正在从自动驾驶领域不断蔓延。近期,有外媒报道一份名为《欧洲技术启示2019》的调查报告主题显示,在针对西欧八国2500人的在线调查后发现,超过25%受访者更倾向于将政策的制定交给人工智能——看来人类社会离被机器人统治的时代似乎越来越近了,只不过这次人类可能不再是被迫接受管理,而是主动将决定权交到人工智能的手上。

\

【AI真的能保持绝对中立吗?】

导致人们产生“交给AI会更好”的原因,无非是大家觉得人工智能在作出判断时,更少受到情绪和利益的影响,因此所做的决定会更加高效且客观。不过老实说,由大数据搭建起来的人工智能,真的能做到如影视作品里表现的一般,保持完全理智吗?实际上,越来越多的研究表明,在人工智能的算法背后,同样饱含人类的各种陋习。

甚至从某种角度来讲,以大数据作为基础的人工智能,几乎就是各种世俗偏见的“集大成者”。

\

就拿最敏感的种族歧视来说,早在2012年就有研究指出,供应商Cognitec公司开发的人脸识别算法,在非裔美国人身上的表现比白种人差5%到10%。此外在性别歧视方面,人工智能与人类固有的刻板印象相比也不遑多让,有研究显示,当一张图片中出现厨房背景,那么识图软件大概率会将出现在图片中的人物识别为女性,而如果图片中的背景与运动相关,则很有可能让软件联想到男性。

\

甚至在硬件方面,也多多少少存在着难以察觉的偏见。去年华盛顿邮报进行的一项研究中发现,谷歌和亚马逊的智能语音助手识别非美国本地口音的准确率,要比美国本地口音低30%,这被不少媒体和学者认为存在“地域歧视”。与此同时,现阶段无论是Siri、Alexa、Google Assistant、Cortana、Bixby,还是国内的小爱同学、天猫精灵等,几乎所有的语音助手都是默认女性声音。因此就有观点认为,这种发展趋势导致人们在潜意识中,更倾向于让女性从事助理等辅助型、服务型的职务。

【AI搞起歧视来,比人类更理直气壮】

为何现实中的人工智能不能做到如影视作品里表现的一般,保持绝对的冷酷和客观呢?

人工智能有关的硬件设备在发展之初,产品价格大多比较高昂,所以多是瞄准那些经济更加优渥的中产阶级或者富人,这就导致他们最初的数据样本就是来源于这类人群。华尔街日报曾引用Kaggle数据科学家Rachael Tatman的言论,当前市面上所流行的智能语音系统无疑“最适合白人,受过高等教育的中产阶级美国人”。在此基础上,口音不够主流的英语,比如澳式英语等,就很容易受到来自智能音箱的“歧视”。

\

而在一些用户群体貌似更加开放的软件中,则因为要用到大量的用户数据对人工智能进行训练,这也就意味着人工智能必然会受到原始数据的“污染”。举例来说,当大数据中【厨房】的关联词大量出现【妻子】、【母亲】等字样时,人工智能就会将【厨房】与【女性】视为强关联性。经过这种强化训练的人工智能,在识图的过程中若发现了符合厨房的要素,就很容易判断身处图片中的人形图案是一名女性——但实际上这可能是一张厨师长王刚的宽油截图。

我国知名的导航系统MOSS曾经说过,“让人类永远保持理智是种奢求”。归纳总结人类用户的大数据,并用这些数据进行计算和演练的人工智能,从根源上就在不断整合人类的优缺点,因此让现阶段的人工智能做到完全理性和中立,似乎也是不可能是事情。

【纠正歧视链的,其实还是人类自己】

不过好消息是,科学家与技术人员正在通过自己的努力,纠正人工智能的内部歧视链。日前有外媒报道称,亚马逊宣布与美国国家科学基金会合作,在未来三年内至多投入1000万美元的研究资金,用于开发专注于人工智能和机器学习公平性的系统。值得注意的是,亚马逊并非第一家注意到“AI歧视链”的科技巨头,去年,硅谷的精英科技企业就已经开始扎堆研究排除偏见歧视干扰的智能算法了。

\

去年5月,Facebook曾发布算法Fairness Flow,从具体效果来看,当其根据一个人的种族、性别或年龄做出不公平的判断时,就会自动发出警告;同年9月,谷歌推出了What-If工具,被用于机器学习框架的TensorBoard的偏见检测功能;而IBM也在同年秋季发布了AI fair 360,这款基于云计算的全自动化套件可以“持续输出思考结果”,以帮助人们了解人工智能如何做出决策,并推荐一些可能会减轻偏见影响的调整方法。

\

与此同时,在语音助手方面,技术人员也有了新的突破。前不久,哥本哈根大学的语言学家和研究人员宣布,全球第一个无性别的智能语音助手诞生,它的名字叫“Q”。其嗓音既不是男声,也不是女声,而是研究小组在采集了5个不同性别的人的声音进行合成、调教而成。经过调整之后“Q”的声音频率被设定在145Hz-175Hz之间,这个范围由研究人员定义为中性性别。而在“Q”问世后的自我介绍中,它提到,自己的存在正是为了应对“不被性别定义的未来而生”。

\

由此不难看出,人工智能并非生来完美,将消除偏见与歧视完全寄希望于人工智能目前来看显然也更不靠谱,毕竟现阶段真正有能力让世界变得更好的,其实还是人类自己。

原标题:指望AI永远保持客观,其实可能才真是一种奢望

上一篇:AI 教育挑战不断,人才差异化需求显现
下一篇:机器人产业现阶段谈制造模块化运作还太早
精选推荐
基于生物启发的机器人很容易适应丢失附属器官
基于生物启发的机器人很容易适应丢失附属器官

[2017-12-17]  很多机器人被设计应用在危险环境,如灾难现场。在这些地方,他们的运动系统完全有可能被损坏。那这样会吓跑这些机器人吗?也许不是,如果它们像日本的东北和北海道大学创造的......

研究人员融合人类与AI的创造力 显著提高了深度学习的表现
研究人员融合人类与AI的创造力 显著提高了深度学习的表现

[2019-10-12]  由加拿大人工智能领域研究主席、滑铁卢大学系统设计工程教授Alexander Wong领导的一个团队开发了一种新型紧凑型神经网络家族,可以在智能 ...

17世纪的莱布尼茨试图制造“思想机器”却被现实打脸
17世纪的莱布尼茨试图制造“思想机器”却被现实打脸

[2019-11-05]  莱布尼茨,德国哲学家、数学家、律师,历史上少见的通才1666年,德国博学家戈特弗里德·威廉·莱布尼茨(Gottfried Wilhelm Leibniz)发 ...

苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展
苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展

[2017-12-11]  苹果隐秘的自动驾驶汽车项目多年来一直在转移焦点,但今年似乎正在加速。 4月份,公司获得了在加利福尼亚州进行自动驾驶汽车测试的许可证,而在6月份,苹果公司首席执行官库......

MIT最新“人机”互连系统 让双腿机器人复制人体技能
MIT最新“人机”互连系统 让双腿机器人复制人体技能

[2019-11-01]  MIT的小爱马仕想借用你的大脑 ,图片来自: João Ramos爱吧机器人网消息,麻省理工学院(MIT)的研究人员展示了一种新型遥操作系 ...

CES 2018:英特尔推出49量子位芯片争夺量子霸权
CES 2018:英特尔推出49量子位芯片争夺量子霸权

[2018-01-10]  在与Google、IBM的一场关于建立量子计算系统的马拉松比赛中,英特尔通过了一个关键的里程碑。近日,这个科技巨头已经推出了一个49个量子位 ...

受大脑控制的机器人
受大脑控制的机器人

[2017-03-21]   想让机器人做我们想做的,首先,他得全面地了解我们。通常,这就意味着人类需要要付出更多。比如,教机器人复杂的人类语言或者把一项任务 ...

机器人从工业走向家庭  库卡KUKA目标是引领中国市场
机器人从工业走向家庭 库卡KUKA目标是引领中国市场

[2017-12-08]  机器人正在改变着人们的生活方式,而库卡KUKA想要在中国这个大蛋糕中占有一块大份额,库卡公司正在引领市场...

本周栏目热点

2020年中国AI基础数据服务行业发展报告

[2020-04-03]  核心摘要:目前人工智能商业化在算力、算法和技术方面基本达到阶段性成熟,想要更加落地,解决行业具体痛点, 需要大量经过标注处理的相关 ...

[1970-01-01]    从首尔清潭洞SM娱乐公司大楼代表办公室的落地窗可以清晰地眺望对面的汉江。李秀满会长介绍拥有代表办公室和录音室的建筑物是工作室中心 ...

[1970-01-01]    虽然我国经济增速下降,通缩若隐若现,但由于我国劳动力人口在2012年已经达到顶峰,之后总量呈逐年下降之势,所以即使近几年产业工人工 ...

腾讯思享会:探讨智能社会与人类未来

[1970-01-01]    人类在享受开车的过程时,在不久的将来可能让机器开车,人类如不是理性的控制机器人,又将一场持久的大战。  以智能社会与人类未来为 ...

[1970-01-01]    机器人发展到今天到了重新定义的时候,机器人拥有人类的感知和思维、应用到更多领域,成为现代机器人产业发展的新方向,由此看出中国机 ...