今天,谷歌向开发者发出的公开信中表示将会对广泛使用的Cloud Vision API工具(主要使用AI来分析图像以识别面部、地标性建筑、可显示内容以及其他内容)进行调整。
今后谷歌会使用“Person”(人物)来标记图像,而不会使用“man”(男性)或者“woman”(女性)来识别图像,以避免人工智能算法传达出偏见。
据《商业内幕》报道,在发给开发者的电子邮件中,谷歌引用了自己的AI准则。 “鉴于无法通过外貌来推断出一个人的性别,我们决定删除这些标签,以符合Google的人工智能原则,特别是原则2:避免造成或加强不公平的偏见。”
过去,人工智能图像识别一直是Google的棘手问题。 2015年,一位软件工程师指出,Google Photos的图像识别算法将其黑人朋友归类为“大猩猩”。谷歌承诺将解决该问题,但Wired在2018年的一份后续报告中发现,谷歌已阻止其AI识别大猩猩,但是核心问题并没有得到妥善解决。