面对内容理解的准确性和效率问题,facebook是这样利用自我监督技术的( 二 )

我们将在这里重点介绍我们如何提高内容理解系统的准确性和效率,并找到新的方法,在无监督学习中做更多的事情。

使用多语种句子嵌入处理违规内容

为了在人们发布违反我们政策的内容时将它们检测出来,我们的系统需要理解语言。具体来说,我们的系统使用机器学习(ML)扫描一个给定的句子并回答一系列问题,例如「它是违规的吗?」或者「它是在威胁某人吗?」。使用这些问题的答案以及当时的上下文和其他的背景信息,我们可以决定是否采取行动,例如给一个人类的审稿人做标记。

为了让我们的 ML 系统回答这些问题,我们需要用给定语言的数千个例子来训练它们。然而,世界上大约有 6500 种语言,其中包括一些目前缺乏大型训练数据集的语言,要找到足够的训练样本来支撑我们支持的所有语言的内容理解是一个挑战。

面对内容理解的准确性和效率问题,facebook是这样利用自我监督技术的

通过在共享的嵌入空间中用多种语言映射类似的句子,我们可以在不翻译每个句子的情况下,更好地理解相关内容(包括违反规定的内容)。

推荐阅读