黑人女性报错率比白人高20％，面部识别系统为何不能一视同仁？( 七 )_图1

乔治城大学的研究者在2016年的一项有影响力的报告中指出FBI可以搜寻将近一半以上的美国人口的面部数据。当面部识别系统的使用更加频繁时，这项技术所带来的问题也更加受人关注，而政策制定者们更倾向于限制这项技术。在反对的声音中，MIT的研究员、社会活动家Joy Buolamwini特别具有影响力。

2018年年初，Boulamwini和其同事，AI研究者Timnit Gebru表明微软和IBM从照片中识别性别的服务以肤色偏白的男性为对象时表现几乎完美，而当对象为黑人女性时出错率则高出百分之二十。

其后的一项研究发现亚马逊的服务也有类似的问题。而亚马逊在一篇语气激烈的文章中形容该研究“有误导性”，解释结果是由于面部分析系统进行面部识别任务时，由于系统的使用目的不同，两种系统所提取的特征不同，自然会导致系统的测试性能“显得”不佳。

Boulamwini是今年五月监督和改革委员会的主要见证人之一。会上，立法者们表示出两党对规范面部识别技术的极大兴趣。主席Elijah Cummings (马里兰州) 表示，测试结果中的种族差异加剧了他对2015年巴尔的摩抗议活动中警察如何使用面部识别系统的担忧，案件中警察拘留了一名黑人弗雷迪格雷。之后Jim Jordan(俄亥俄州）表示国会应该对政府使用这项技术“做出行动”。“如果面部识别系统出错并且给非裔美国人以及有色人种带来负面影响，在我看来，这就是对美国第一宪法修正案以及宪法修正案第四条的直接违反”。