技术|经观社论 | 以人为尺度，算法推荐是对企业价值观的审视
文章图片
经济观察报 社论算法迎来了一场前所未有的变革 。 近日 ， 国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布 《互联网信息服务算法推荐管理规定》 ， 旨在规范互联网信息服务算法推荐活动 ， 维护国家安全和社会公共利益 ， 保护公民、法人和其他组织的合法权益 ， 促进互联网信息服务健康发展 。
算法通常是指人工智能下的机器学习 ， 通过对数据的搜集分析,制定解决某一问题的相应方法 。 从“用户画像”到“个性化推荐”等各类互联网企业获客、转化和留存的手段 ， 以及网上购物、外卖、OTA(在线旅游服务）、短视频和在线搜索等众多商业服务领域 ， 都离不开算法的后台应用 。
算法已经成为数字经济时代的互联网产业标配 。 通过成千上万的互联网产品 ， 算法日渐嵌入到人们的生活、消费和娱乐之中 ， 也在某种程度上塑造着社会价值观 。 如果我们默认信息流、短视频等算法推荐内容就是即时满足的 “奶头乐”文化；外卖、OTA利用算法对用户价格歧视是只能默默忍受的技术之恶；外卖小哥是平台算法中冷冰冰的单位绩效产出数据 ， 那么算法就会导致个体乃至群体的异化 。
上述《规定》的出台 ， 意味着算法应当遵循更明晰的“价值观” 。 算法看似是技术生成的产物 ， 但算法的背后是人 ， 企业可以决定算法的好与坏 。 算法需要在企业利益取向与用户权益保障之间寻求平衡点 。 如果企业追求利益至上 ， 就会导致算法技术的转化过程发生严重偏移 。 比如 ， 在短视频领域 ， 个性化推荐沦为瞄准用户人性弱点的同质化内容推送；外卖、OTA领域被曝光利用大数据杀熟；外卖企业利用算法驱使外卖员超负荷运转 ， 等等 。 如果缺乏有效的监管 ， 算法最终会成为惟商业化的工具 。
也因此 ， 《规定》将管理防线嵌入到企业算法逻辑制定的全链条中 ， 要求平台建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施 ， 并向社会公开相关服务标准 ， 提供相应的信息解释 ， 方便公众了解 ， 用户可据此提出建议和意见 。
在这些规则下 ， 算法从企业的封闭决策走向公开透明 ， 公众不再是算法的被动接受者而成为决策参与主体 。 每个人都可以从自身的权益保障和价值判断出发 ， 针对平台算法规则提出各自的意见 ， 企业则据此修正和完善算法逻辑及执行标准 ， 从而将以往可能被忽视的公众权益转化为算法必须考量的重要标准 。
推荐阅读
- 生物|两项国家标准发布实施 为畜禽生物育种提供技术参考
- 21世纪经济报道|地方政府跑步入局元宇宙 谁能建立先发优势？
- 中新经纬|反向带货还是饥饿营销，瑞幸李国庆互怼伤害了谁？
- 视点·观察|新华社：数字虚拟人频频出圈，能在多大程度上替代真人？
- 物流|市占率全球第一，引领行业变革，深圳这个独角兽企业分享经验
- 代码|周鸿祎：不理解35岁被职场抛弃，中国人35岁就老了？程序员年纪越大经验越丰富
- 新浪科技|视频｜李东生获十大经济年度人物，眼眶湿润 几近哽咽落泪
- 视点·观察|收购黑鲨入局VR设备，曾说不做硬件的腾讯，搞得定硬件制造吗？
- 澎湃新闻|“漠河舞厅”商标被经销公司抢注，当前状态为“等待实质审查”
- 科技|华数集团战略合作部·华数传媒网络余浙东总经理参观云针科技