2019 年度回顾：抵制之声暗潮涌动，AI 自身该如何负起责任？( 八 )_雷锋网AI科技评论：作为一家跨学科研究

ImageNet Roulette 是与展览一起使用的视频安装和应用程序。

该程序在 9 月份风靡一时，成千上万的人在上面上传了他们的照片以查看 ImageNet 如何对这些照片进行分类。此事件具有重大意义。 ImageNet 作为一个规范的目标识别数据集，它在塑造 AI 的产业化方面比其他数据集更有潜力。

虽然 ImageNet 所做的一些分类很奇怪，甚至很滑稽，但数据集也囊括了极端问题的分类，其中很多是与种族主义和妇女歧视相关的。 Imagenet Roulette 则为人们了解 AI 系统如何分类这些极端问题提供了一个界面，这实际上暴露出了 AI 系统在复杂和动态世界场景中所做的分类工作的狭隘性和高度格式化。 Kate Crawford 和 Trevor Paglen 在发表的一篇调查性文章中，揭开了 AI 系统在多个基准训练集上工作的面纱，进而揭示了这些系统存在的政治性架构。

这是为什么艺术与科研的结合有时会比单个学科能够产生更大影响的另一个原因，这也促使我们考虑：由谁来定义我们所属的类别以及由此带来的后果。