人工智能也有歧视和偏见

科技频道提示您本文原始标题是:人工智能也有歧视和偏见

人工智能也有歧视和偏见

在大多数科幻电影里,冷漠又残酷是 AI 的典型形象,它们从来不会考虑什么是人情世故,既没有人性光辉的闪耀,也没有人性堕落的七宗罪。

然而在现实中,人工智能技术却不像电影里那么没有「人性」,不过这可不是什么好事,因为 AI 的「歧视」和「偏见」正在成为越来越多人研究的课题,而且它们确实存在。

我们先来看几个例子:

COMPAS 是一种在美国广泛使用的算法,通过预测罪犯再次犯罪的可能性来指导判刑,而这个算法或许是最臭名昭著的人工智能偏见。根据美国新闻机构 ProPublica 在2016 年 5 月的报道,COMPAS 算法存在明显的「偏见」。根据分析, 该系统预测的黑人被告再次犯罪的风险要远远高于白人,甚至达到了后者的两倍。

人工智能也有歧视和偏见

推荐阅读