AI正学会所有偏见！精华与糟粕通吃，算法偏见更难辨认也更持久( 六 )_人工智能学习人类知识

人人都要学会讨好算法

电影《少数派报告》里，汤姆克鲁斯负责抓捕那些被电脑认为“将要犯罪”的人，直到有一天自己也上了抓捕名单。在现实中，类似的系统可能已经上线。

据 BBC 报道， 2017 年 5 月，英国达勒姆警方启用了一套系统。它学习过警方 5 年关押报告和 2 年定罪报告，来预测嫌疑人犯罪的可能性是低、中、高，以决定是否收押。

但使用数年后，评估工具发现，这套系统认为黑人是罪犯的概率是白人的两倍，还喜欢把白人定为低风险、单独犯案。此外，它预测低风险犯罪的准确率为 98% ，高风险为 88% ，暗示它宁错抓一千、不错放一人。

2016 年 12 月，迪拜警方也启用了一套系统，来预测不同地区犯罪概率，将警力部署在高风险地区加强巡逻。

如果说预测犯罪尚遥远， AI 招聘则掌握了你的生杀大权。 11 月初，高盛、希尔顿和联合利华等企业都开始使用一种名为 HireVue 的 AI 视频面试系统，并赞赏有加。希尔顿高管说， HireVue 将招聘周期从 6 周缩短到了 5 天。

AI正学会所有偏见！精华与糟粕通吃，算法偏见更难辨认也更持久( 六 )