直播间乱象不断，平台如何阻止内容翻车( 四 )_砍手指、吃蜈蚣、开设赌局、“萝莉变大

YY直播方面向南都采访人员介绍称，目前YY直播的审核机制以“AI识别+人工审核”的搭配为主。其中，借助AI视觉识别等方面的技术，YY直播大量审核工作交给AI技术处理。AI能够实时进行图像识别、音频识别、文字识别等行为，拥有数十个违规判断模型，只需数秒内即可发现违规内容。此外，还配合上千人的人工审核团队进行巡查。

此外，在直播期间，YY还会对直播地区、场景、内容品类等进行采集，利用大数据分析发现开播的异常，会安排巡查人员对主播核实，此时也可能触发人脸分析技术，向巡查人员提供参考信息。

许多违规内容通常都是在直播过程中才能发现。YY直播向南都采访人员透露，在主播开播时，YY直播对其开始进行大数据运算，分析预测本场直播内容的风险；同时会对房间用户公屏讨论内容进行语义分析，从整体讨论氛围中去预测主播的行为风险。

此外，大数据也应用在直播监管领域。一直播表示，会综合网友留言、过往直播是否存在问题等因素进行管理。为了最大限度地确保直播内容合法合规，一直播对用户有分级分类管理，并设有灰名单、黑名单等机制，也会对曾经出现过违规行为的主播加强审核。