新浪科技|曝谷歌审查内部研究要求研究员避开敏感话题_

文章图片
【新浪科技|曝谷歌审查内部研究要求研究员避开敏感话题】图1/1

相关新闻：
谷歌突然解雇知名AI研究员：因其在内部电邮中吐槽谷歌政策
谷歌CEO皮查伊就AI研究员离职一事向员工道歉
据报道，近期，谷歌的一名研究人员因为警告人工智能存在偏见而被迫离职，谷歌正因此受到抨击。与此同时，其他从事此类工作的谷歌员工已被要求在结论中“采用正面调性” ，而涉及“敏感话题”的研究需要公司额外的审核。
谷歌研究员的说法和内部文件都显示，过去一年中谷歌实施了新的控制措施，包括对某些主题的论文进行额外一轮审核，以及在研究的后期阶段增加来自管理层的干预。
谷歌人工智能研究员蒂姆尼特·格布鲁（Timnit Gebru）博士似乎就遇到了这样的情况。她和谷歌管理层之间就自己团队所做的工作产生了分歧，随后很可能在被迫情况下从谷歌离职。
谷歌内网的一个页面显示，这些“敏感”话题包括：石油行业、伊朗、以色列、新冠病毒、家庭安防、保险、位置数据、宗教、自动驾驶汽车、电信行业，以及推荐或进行内容个性化的系统。
业内人士认为，这些话题中确实有很多比较敏感，但考虑到伦理委员会、同行评议和其他常规的研究审核机制的存在，对研究人员进行警示似乎是多余的。一名接受媒体采访的谷歌研究员认为，公司内部这种自上而下的干预可能很快就会演变成“严重的内容审查问题” 。
除此之外，目前许多关键研究都是在公司的支持下进行的，但这些公司很可能利益相关，不应对研究进行干预。大型私营研究机构的存在时间几乎和有组织的科研活动一样长，但类似Facebook、谷歌、苹果和微软的公司正在对人工智能等领域施加巨大影响。它们完全有可能避免这些技术遭到批评，同时故意夸大技术的好处。