嘿!即将开始你的第一个AI项目?( 九 )

2016年的一项研究发现,谷歌的语音识别具有性别偏见。研究发现,当你随机挑选一名男性和女性与谷歌助理交谈时,有70%的可能性,对男性的识别更准确。而实际上,(在英语中)平均女性说话的语速更慢,元音发音更长,所以女性的识别几率应该更高。

为什么会发生这个问题?推测是在训练语音助手的时候,使用了大量的男性的数据,忽略了对女性声音数据的采样。对女性来说,表面上的经历可能是“我无法理解你”,但实际上更像是“你无关紧要。”

嘿!即将开始你的第一个AI项目?

另一个故事关于一个护照检测系统,检测过程中认为该亚洲人照片不合格,因为照片中的人没有“睁眼” (下图)。由此可以看出该图像识别系统在亚洲人像数据上的缺失。

嘿!即将开始你的第一个AI项目?

为了解决这样的偏见问题,设计者能够做什么?

推荐阅读