微软将用 AI 过滤 Xbox 的不当内容,反欺凌,更友好( 三 )

微软将用 AI 过滤 Xbox 的不当内容,反欺凌,更友好

微软的 Xbox 业务负责人 Dave McCarthy 表示,在游戏中,语境是一个非常重要的因素。如果你在战斗类游戏中谈论歼灭敌人或战斗那大多没什么问题,但你要在一个田园类游戏或换装类游戏中这么说很可能就带有威胁恐吓的意味。

为此,Dave McCarthy 和团队也一直在研究将 AI 和关键词过滤工具相结合,更好地识别信息上下文语境。

微软将用 AI 过滤 Xbox 的不当内容,反欺凌,更友好

▲ 图片来自:unsplash

文本过滤还只是一个开始,下一个计划或许是语音过滤。或者更进一步说,微软的目标是能直接完成游戏直播中的敏感词过滤。

毕竟在游戏里打字骂人的虽多,开着语音就疯狂输出的也不少,这其中就有不少「过界」内容。为此,微软研究院开发了语音转文字的功能,可实时转写音频,Xbox 部门未来也可能使用这一功能。

推荐阅读