伴随着AI人工智能的净化,越来越多的人对于机器人威胁论开始质疑,这样的一天真的会到来吗?在谷歌的 AI 主管 John Giannandrea看来,就目前的发展形势来看,AI智能机器人还不足以对人类造成过大的威胁,相反,机器学习算法内部的危机导致显得尤为严重,这种存在偏见的算法,或将对未来的机器人发展造成极为严重的影响。
“真正的安全问题,如果非要这么叫的话,是如果我们向这些系统提供了有偏见的数据,这些系统也会变得带有偏见。” Giannandrea 在谷歌最近一次有关人类和 AI 系统关系的会议上如此说到。
随着科技不断向医药和法律等关键领域延伸,以及更多没有深厚技术背景的人可以应用最新科技,机器学习的偏见问题会变得更加显著。一些专家警告称,算法的偏见问题已经在很多行业十分普遍,却几乎没人试图进行识别或者纠正。
“公开我们在用的训练数据,公开我们正在寻找数据背后的偏见信息,这是很重要的,否则我们就是在建造有偏见的系统,” Giannandrea 补充到,“如果有人试图卖给你一个辅助医疗决策的黑盒系统,而你却不知道它如何运作或者用了什么数据进行训练,那我肯定不会信任这个黑盒的。”
黑盒机器学习模型已经在决定一些人的命运上发挥着重要作用了。由 Northpointe 公司制作的称为 COMPAS 的系统可以预测被告人再次犯罪的相关性,已经被一些法官用来决定是否批准犯人保释了。COMPAS 的工作原理尚未公开,不过 ProPublica 的调查发现了其模型会不利于少数族群的证据。
MySQL Query : SELECT description,url,title,id FROM v9_news where title regexp '谷歌||John|Giannandrea|机器人' AND inputtime>1683107215 and id not regexp('01|02') and status=99 and id!=6671 group by id order by rand() LIMIT 1
MySQL Error : Got error 'empty (sub)expression' from regexp
MySQL Errno : 1139
Message : Got error 'empty (sub)expression' from regexp
Need Help?
MySQL Error : Got error 'empty (sub)expression' from regexp
MySQL Errno : 1139
Message : Got error 'empty (sub)expression' from regexp
Need Help?