处罚|安全产品之处罚申诉( 三 )


法律规定
1.对冤假错案推翻原来已经生效的判决结果。
2.法律变动后,依新法做出的判决责任较轻时,适用新法。
3.在执行一定刑期之后,因其遵守监规,接受教育和改造,患有严重疾病或确有悔改表现,不致再危害社会,而附条件地将其予以提前释放。
平台申诉规则
1.当处罚判断有误,申诉后撤销处罚。
2.策略/规则调整,之前处罚的后来不处罚了,申诉后撤销处罚。
3.用户经过处罚等教育后已经知错改正(仅针对帐号功能限制类的处罚),申诉后减免处罚。
根据社区的发展阶段和风控现状,处理方式有所侧重。

  • 社区产品初期,风控能力薄弱,此时规则、策略调整频繁,机审策略、人审等准确率不稳定,易出现误杀,此时申诉后主要挽回误杀。
  • 产品中后期,风控能力已经发展成熟,误杀基本不会出现、策略/规则也相对稳定,此时申诉后主要挽回已被教育改正的用户。

处罚|安全产品之处罚申诉
文章插图
定义好社区目前需要撤销的处罚后,就可以针对性设计处理流程了。
1)挽回误杀的处理方式
二次审核(复审),由人工再次判断核实违规是否成立。
申诉审核后台设计时需要注意两种判定情况:
  1. 通过还原处罚时的证据进行二次判定,即可核实是否误伤,比如发布色情内容。此时审核后台与处罚后台可以保持一致,或者提供的审核信息多于处罚时的信息,有助于更全面地判断。
  2. 需要结合用户新提供的信息,才能核实是否误伤,比如侵权。一方面在申诉提交环节要引导用户提交特定资料,另一方面审核后台也必须展示用户提供的信息,以供审核员核实判断。

处罚|安全产品之处罚申诉
文章插图
2)策略/规则调整的处理方式
批量回溯,即策略/规则变动时可自动对过去处罚的对象更新处罚,理想来说不应该在申诉环节处理。但很多公司不具备该能力,只能在用户申诉后按最新的规则人工判定。
3)挽回已被教育改正的用户的处理方式
人工审核、圈定特定用户教育后、考察用户表现,后两种不依赖用户主动申诉后再处理。人工审核可以根据用户被处罚后的表现判定用户之后是否不会再次违规,如保证书等。
因为通过人工去判断用户的承诺是否靠谱,非常难,所以就衍生了自助答题、违规后考察的解封方式,通过策略圈定特定的用户或违规情况,让用户付出一定成本后解封。
qq在6月左右就上线了承诺书申请解冻的环节,但提交后具体什么条件能解就不清楚了。
处罚|安全产品之处罚申诉
文章插图
抖音在某些帐号处罚后,会主动评估用户后续的表现,如果表现符合社区规范,系统自动解除处罚。
处罚|安全产品之处罚申诉
文章插图
腾讯游戏也有类似的环节。
处罚|安全产品之处罚申诉
文章插图
最后,对于没有被处罚,而进入申诉环节的用户,无需处理,直接告诉用户帐号正常即可。
5. 申诉结果通知将用户申诉的最终结果包装话术通知给用户。本环节只需要注意2点:
  1. 最终结果应包含申诉处理之前的解封结果,比如用户没有进行申诉,但通过质检等环节解封,也应告知申诉成功,用户申诉成功,避免产生误会。
  2. 如果用户申诉失败,需要疏导情绪,以及引导再次申诉的路径,避免用户走极端。

处罚|安全产品之处罚申诉
文章插图

推荐阅读