进行|Facebook加强机器审核，特朗普会被封号吗?_Utley|特朗普|审核|内容|社交|机

From: Verge；编译: Shelly
过去， Facebook一直使用人工审核。然而，一方面，员工的工作强度和人权问题曾饱受争议；另一方面，人工审核单纯按照时间顺序审核，已经不能适应社交媒体现状。
Facebook官方称，未来将使用更多机器学习算法对文本进行排序，并确定了三个定义排序优先级的标准：传播度、严重性以及违反规则的可能性。
至于AI预判帖子的准确率究竟有多少， Facebook不愿透露，但可以确认的是，整个项目已经在有条不紊地进行了。
还记得特朗普的竞选推特不断被官方标为虚假信息吗？现在，同行Facebook开始应用AI对内容进行排序审核了。
Facebook一直明确表示，希望人工智能在其官方平台上更多地参与内容审核。 11月中旬， Facebook官宣：将让机器学习内容审核。这意味着， Facebook朝着它的AI目标又迈出了新的一步。
目前，在Facebook上，从垃圾邮件、仇恨言论到“煽动暴力”的内容，都会受到人工或机器的自动筛查，机器学习过滤器会把它们标记为违反平台规则的帖子。
对于一些非常明确的有害或不实信息，系统会直接删帖或封号，另一些处于灰色地带的帖子则会自动排入序列，等待人工审核。
值得一提的是， “懂王”川普在其总统在职期间享有的“社交媒体言论豁免权”预计在明年1月就会“如期”结束，当机器审核的力度加大，他会被脸书和推特封号吗？

文章图片

美国女主播@morningmika就曾在推特上炮轰为什么特朗普的账号还没有被封。 “我会联系推特的负责人，让他们知道，特朗普总统每天都在违反他们的政策和规定！”她说。
人工审核曾受质疑
机器审核又有哪般新标准？
Facebook在全球范围内雇用了约15,000名审核员，过去因这些审核员没有得到足够的保障和支持， Facebook一度受到非议。批评和质疑声认为，这些员工的主要工作是对被机器自动标记的帖子进行排序，考量其是否违反平台的各项政策，并做出弃留决定，因此，他们有可能受到精神创伤。
以下是其中一项指责Facebook给审核员施加精神压力的批评：
“Utley退伍后，他当了Facebook的夜班审核员，负责清除用户每天发布的最糟糕的内容：仇恨、谋杀言论和儿童色情内容。 Utley所在的Facebook内容审核小组位于佛罗里达州坦帕市，由一家名为Cognizant的专业服务供应商运营。该公司约800名员工面临来自老板的无休止压力，被不断要求更好地执行该社交网络的社区标准，而这些标准几乎每天都会更新，这让承包商的员工永远处于不确定状态。 ”

文章图片

Facebook的旧审核系统结合了机器学习的主动调节和用户的反馈。
过去，审核员或多或少是按时间顺序审查帖子，即按照帖子被标记的顺序处理之。而Faceboo的现行审核方式是利用机器学习优先审查最重要的帖子。
Facebook表示，未来将使用多种机器学习算法对帖子进行排序，优先级排序的标准是：传播度、严重性以及违反规则的可能性。

文章图片

Facebook的新审核系统使用机器学习对等待人工审核的帖子进行排序。
Facebook此番内容审核新举是值得肯定的。单拿特朗普来说，为了跟上他一人一天几十条推特的步伐，审核工作的不易就已经可见一斑了。万事皆有两面，从好的方面来说，特朗普任职四年的贡献也许还包括推动社交媒体改革，因为社交平台在一定程度上意识到了内容审核机制亟待优化的必要。
不过， Facebook这些内容审核的标准如何加权尚不清楚，但其表示，首要是处理最具破坏性的帖子。帖子传播得越广、被分享和查看的次数越多，则被处理的速度就越快。 Facebook称，它将把涉及现实危害的帖子列为“最需要重视的帖子” ，譬如，涉及恐怖主义、剥削儿童或自残的内容会被优先处理。相应的，类似垃圾邮件之类的烦人但不伤人的帖子会被排在不那么重要的位置。
参与内容审核时， AI在想什么？
Facebook社区信用团队的产品经理Ryan Barnes在新闻发布会上说：“所有违反内容的行为仍将受到实质性的人工审查，与以往不同的是，我们将使用AI系统更好地确定该过程的优先级，即尽量确保审核人员不收到伤害。 ”
Facebook公开了部分机器学习过滤器的信息。人们可以发现， Facebook所用的过滤系统里有一个名为“WPIE”的模型，采用了Facebook所谓的“整体”方法来评估内容，做到了对整个帖子的完整性嵌入。
这意味着，算法会试图分析文案、图像、标题、海报等信息结合起来传达的意思，将帖子里的各种元素整合起来加以预判。
比如说，如果帖子的文案大意为，他们想要卖整批的“特推美味 (special treats) ” ，图片是一张看起来像是烘焙食品的图片，那么AI会思考：发帖人是在谈论食品吗？如果标题中还使用了某些单词，例如“有效 (potent) ” ，那再加上之前对文案和配图的分析， AI就有可能扭转之前的判断。
AI或许没办法完美
但人可以促成美好的改变
在Facebook早年使用AI审核的试水中，曾经有批评者指出， AI没办法hold住大量的在线交流，在动态的交流信息中， AI是没有判断能力的。尤其是在出现“霸凌”和“骚扰”等相关信息时， AI可能几乎不知道自己在看什么。
Facebook交互完整性团队的软件工程师Chris Palow同意AI有局限性，但他也强调，在删除无用信息、有害信息方面， AI的确可以发挥作用。
“我们的系统旨在使AI和人工审核相结合，减少总体错误数， ”Palow说， “人工智能永远不会是完美的。 ”
当被问及AI预判帖子信息的准确率， Palow没有给出直接答案，但指出：只有当机器审核的准确率和人工审核完全一致时，他们才会完全舍弃人工审核。 “毕竟，完全交由机器操作的门槛很高。 ” Palow说。

文章图片

不管怎样，眼下Facebook已经在稳步扩增更多的AI进入内容审核的队列。可以想见：在社交媒体渐趋复杂的今天，由人工智能参与社交媒体内容审核是大势所趋。对于网民来说， “网络桃花源”或许只能存于幻想，但任何一丝一毫净化网络、祛恶扬善的努力都不能放弃。
re：
https://www.theverge.com/2020/11/13/21562596/facebook-ai-moderation
【进行|Facebook加强机器审核，特朗普会被封号吗?】https://www.theverge.com/2019/6/19/18681845/facebook-moderator-interviews-video-trauma-ptsd-cognizant-tampa

进行|Facebook加强机器审核，特朗普会被封号吗?

推荐阅读

开封市局监测非法药品广告取得实效

茶树精油的作用

360桌面助手主要功能有哪些

入职之前需要注意什么

马钰和丘处机的关系如何呢？怎么感觉像一对政敌呢？

办饲料加工厂需要什么手续

才能媲美诸葛亮却被三国演义黑成渣鲁肃

使用冰箱的三种节能方法

最新版女生个性网名小清新伤感小清新又不失个性女生网名

苹果手机晚上充电时需要关机吗

小麦进城林父怎么死的电视剧小麦进城中林父死亡原因

男士的秋季保湿美容

当兵可以考研吗

股票停牌了怎么办

港澳通行证读不出来怎么办

朋友圈晒两个女儿的句子

去银行存钱要“谨慎”，银行又有“新套路”，已有储户上当了

玉米水开后煮几分钟

去脚气的办法有哪些？

上班族喝哪些茶好？上班族应该怎么喝茶？