研究院|大数据“杀熟”不能再“杀”了,算法推荐不能乱“推”了

通过大数据“杀熟”实施不合理差别待遇 , 利用算法诱导用户沉迷网络、过度消费……当前 , 算法技术广泛渗入互联网应用 , 在给用户带来一定程度便利的同时 , 由算法引发的侵害用户权益问题也屡屡出现 。
算法推荐是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等技术向用户提供信息 。
近日 , 国家网信办等四部门出台《互联网信息服务算法推荐管理规定》 , 针对被诟病已久的问题提出明确要求 。
大数据“杀熟”如何解?不得实施差别待遇
同样的送餐时间、地点、订单、外卖平台 , 会员却比非会员多付钱;同时同地打同类型车到同一目的地 , 某打车平台曾被用户发现熟客反而收费更高 。
当前 , 越来越多的企业利用大数据分析评估消费者的个人特征用于商业营销 。 但也有一些企业利用个人信息搞大数据“杀熟” , 对不同群体进行差别定价 , 实行“价格歧视” 。
规定提出 , 算法推荐服务提供者向消费者销售商品或者提供服务的 , 应当保护消费者公平交易的权利 , 不得根据消费者的偏好、交易习惯等特征 , 利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为 。
【研究院|大数据“杀熟”不能再“杀”了,算法推荐不能乱“推”了】去年10月 , 腾讯、华为等20余家App运营企业承诺将严守用户个人隐私边界 , 保护用户公平交易权 , 不利用大数据“杀熟” 。
中国信息安全研究院副院长左晓栋认为 , 大数据“杀熟”等顽疾归根结底是滥用用户个人信息导致的 。 解决这类问题 , 首先要在治理违法违规收集用户个人信息上下功夫 , 其次要保障用户的选择权、删除权等权益 。 例如 , 要向用户提供不针对其个人特征的选项 , 或向用户提供便捷的关闭算法推荐服务的选项 , 并提供选择或删除针对其个人特征的用户标签的功能 。
诱导用户沉迷、过度消费?促进算法应用向上向善
设置诱导用户沉迷、过度消费的算法模型 , 已成为备受诟病的网络消费和娱乐现象 。
“有的游戏你玩不过去它就给你放点水 , 导致你像中毒一样停不下来;或者看你反复浏览某件商品 , 它就显示两件八折、三件七五折这样的优惠 , 让你尽可能多买 。 ”中国电子技术标准化研究院网安中心测评实验室副主任何延哲说 。
规定提出 , 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等 , 不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型 。
中国政法大学数据法治研究院教授王立梅认为 , 算法推荐服务提供者应当坚持主流价值导向、促进算法应用向上向善的基本要求 。 规定提出不得设置诱导用户沉迷、过度消费等算法模型 , 正是将科技向善理念落实为具体业务要求的体现 。

推荐阅读