AI正学会所有偏见!精华与糟粕通吃,算法偏见更难辨认也更持久( 七 )

\n

\n

图 | 学会讨好 HireVue 的算法有望成为求职者的必备技能(来源:softwareadvice.com )

\n

但它的决策偏好被发现匪夷所思:AI 分不清你皱眉是因为在思考问题 , 还是情绪不佳(暗示性格易怒) 。 面试者既担心表现 , 又不知 AI 如何给自己打分 , 以至于刻意迎合 AI:在面试全程表情微笑、放慢语速、在摄像头边贴上眼睛贴纸 , 以维持眼神接触 , 以及让背后是一堵白墙 , 防止干扰算法 。

\n

此外 , HireVue 也被认为加强了求职偏见:机器通过学习现有员工来寻找新员工 。 这意味着如果一个部门所有员工全是白人(即使是巧合) , AI 也会不自觉地偏向寻找白人 。 如果好员工恰都是女性 , 那么男性面试者也会被降低权重 。

\n

“我们迎来了焦虑的一代 , 要求他们面向屏幕说话 , 对摄像头回答问题 , 还不告诉他们如何做得更好 。 ”辅导学生参加 HireVue 面试后 , 杜克大学经济学教授 Emma Rasiel 表示 。 不难想象 , 如果你能骗过 AI 面试 , 也许会尝试用匪夷所思的举动骗过其他 AI 决策 。

推荐阅读