文章图片
《规定》明确 ， 应用算法推荐技术 ， 是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息 。 各类提供算法推荐服务的互联网公司几乎都在监管范围内 ， 如各类短视频平台、电商平台、社交平台及餐饮外卖平台等 。
为了打破算法摸不着也看不懂的“黑箱” ， 《规定》明确要求保障用户的算法知情权和算法选择权 ， 应当向用户提供不针对其个人特征的选项 ， 或者便捷的关闭算法推荐服务的选项 。
《规定》要求算法推荐服务提供者应当坚持主流价值导向 ， 积极传播正能量 ， 建立完善人工干预和用户自主选择机制 ， 不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为 。
不得实施差别待遇 剑指大数据“杀熟”
近年来 ， 一些企业利用个人信息搞大数据“杀熟” ， 对不同群体进行差别定价 ， 实行“价格歧视” ， 让消费者十分反感 。 对此 ， 《规定》又将如何破解呢？
浙江绍兴的胡女士通过某商旅平台定购了一家酒店房间 ， 结账时发现 ， 通过平台支付的房费比该酒店实际房价高近一倍 ， 而她是该商旅平台的高级会员 ， 本该享受8.5折优惠 。 胡女士怀疑商旅平台通过她此前的消费行为 ， 存在“大数据杀熟”的行为 ， 将商旅平台告上法庭 。 去年7月 ， 法院一审对原告退一赔三的请求予以准许 。 这起案件被众多媒体称为“大数据杀熟”第一案 。
文章图片
同样的送餐时间、地点、订单、外卖平台 ， 会员却比非会员多付钱；同时同地打同类型车到同一目的地 ， 某打车平台曾被用户发现熟客反而收费更高 ， 类似的消费投诉多有发生 。 对此 ， 《规定》提出 ， 算法推荐服务提供者向消费者销售商品或者提供服务的 ， 应当保护消费者公平交易的权利 ， 不得根据消费者的偏好、交易习惯等特征 ， 利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为 。
中国信息安全研究院副院长 左晓栋：有的平台就会说 ， 这个算法是我的知识产权 ， 是我的商业秘密 ， 我不能公开 。 这些说辞都不能成立了 ， 平台的算法要保证必要的透明性 。
专家强调 ， 《规定》还明确保障用户的选择权、删除权等权益 。 通过向用户提供不针对其个人特征的选项 ， 或向用户提供便捷的关闭算法推荐服务的选项 ， 并提供选择或删除针对其个人特征的用户标签的功能 ， 避免消费者被算法“算计” 。
保护劳动者合法权益 避免被算法所“困”
此外 ， 在《互联网信息服务算法推荐管理规定》中要求 ， 算法推荐服务提供者向劳动者提供工作调度服务的 ， 应当保护劳动者取得劳动报酬、休息休假等合法权益 ， 相关情况 ， 再来了解一下 。
2020年9月 ， 一篇名为《外卖骑手 ， 困在系统里》的文章备受关注 。 文章描述了在外卖平台系统的算法与数据驱动下 ， 外卖骑手的配送时间不断被压缩 ， 而骑手在强大的系统驱动下 ， 为避免差评、维持收入 ， 不得不在现实中选择逆行、闯红灯等做法 。 不少外卖骑手表示 ， 几十层的高层楼宇 ， 电梯一等就是十几分钟甚至更长 ， 但这样的客观情况 ， 并没有被“算法系统”考虑进去 。
文章图片
清华大学人工智能国际治理研究院副院长 梁正：由于机器还在发展阶段当中 ， 针对一些劳动工作场景 ， 把决定权力交给机器 ， 有很大的潜藏的公平性、可靠性的风险 。
互联网平台优化算法主要通过大数据分析算法模型计算出业务经营的最佳策略 ， 与此同时 ， 与算法相配合的还有一整套严格的绩效考核机制 ， 一旦违背部分算法规则 ， 则会在考核中失去“优势” ， 并可能带来了一些恶性应对行为 。 对此《规定》专门提出 ， 算法推荐服务提供者向劳动者提供工作调度服务的 ， 应当保护劳动者取得劳动报酬、休息休假等合法权益 ， 建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法 。
确保算法公开透明 严防刷量控评影响舆论
雇佣网络“水军”实施流量造假 ， 鼓动“饭圈”粉丝互撕 ， 刷量控评 ， 一些算法推荐服务提供者干预热搜 ， 影响网络舆论的现象让人诟病 。 3月1日施行的《互联网信息服务算法推荐管理规定》将给这类影响网络舆论的“黑手”戴上“紧箍咒” 。
在娱乐行业 ， 部分流量明星动辄可以拿到上亿甚至十几亿的商业回报 ， 明星商业平台无所不用其极地制作话题、进行炒作 ， 任何可以引发粉丝关注讨论的行为 ， 甚至是粉丝之间的网络骂战 ， 都是商业团队常规的策划内容 。 品牌方也深谙此道 ， 甚至运用手段刻意制造不同粉丝的矛盾 ， 掀起骂战来博眼球、拉流量 。
3月1日正式实施的《互联网信息服务算法推荐管理规定》 ， 要求算法推荐服务应遵循公开透明的原则 ， 鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略 ， 优化规则透明度和可解释性 。 建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度 ， 不得利用算法操纵榜单、控制热搜等干预信息呈现 。
文章图片
中国信息安全研究院副院长 左晓栋：我们看到的内容有可能会越来越偏离公正 ， 偏离中立 ， 被人为地或者是背后有算法在引导的情况 ， 那么就需要进行必要地干预 。
对外经贸大学数字经济与法律创新研究中心执行主任 张欣：原则上告诉我们说这些设计人员不能去开发这样的算法 ， 如果进行了这样相应的行为怎么办？这一次的管理规定当中非常明确提出要去承担相应的责任 。
防止诱导沉迷消费 保护特殊群体利益
如何防止诱导用户沉迷、过度消费 ， 保护未成年人等特殊群体的权益？针对这些诉求 ， 3月1日施行的《规定》也进行了精细化的规定 。 多位专家表示 ， 建立健全科学的监管体系 ， 形成算法治理长效机制 ， 将是确保《规定》落到实处的核心要义 。
《规定》提出 ， 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等 ， 不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型 。
针对未成年人 ， 《规定》提出 ， 算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息 ， 不得利用算法推荐服务诱导未成年人沉迷网络 。 《规定》还要求 ， 算法推荐服务提供者向老年人提供服务的 ， 应当保障老年人依法享有的权益 ， 充分考虑老年人出行、就医、消费、办事等需求 ， 按照国家有关规定提供智能化适老服务 。
文章图片
监管如何落地落实？《规定》明确 ， 事前监管 ， 确立算法备案、算法评估等制度；区分监管 ， 确立分级分类的思路；系统监管 ， 建立多元共治的局面 。 专家认为 ， 《规定》着力完善治理体系 ， 实现事前事中事后全流程、全链条监管 。 算法推荐服务提供者如违反相关规定 ， 会被处以警告、通报批评、罚款等 ， 必要时还将给予治安管理处罚和追究刑事责任 。
中国信息安全研究院副院长 左晓栋：强调主体责任非常重要 ， 因为平台是算法推荐的使用者 ， 因此只有把平台的责任压实 ， 那么平台才有自觉性去落实法律法规的要求 。
【数据|《互联网信息服务算法推荐管理规定》今天起正式施行】（来源：央视网）
推荐阅读
- 预测|Kevin P. Murphy《概率机器学习：进阶》成书，还开放了PDF下载
- 最新消息|四部门印发！算法推荐管理规定今日施行 诱导沉迷、大数据“杀熟”迎终极审判？
- 商旅|《互联网信息服务算法推荐管理规定》今天起正式施行
- 电子商务|北京消协：超八成受访者被大数据“杀熟” 网购问题最多
- nVIDIA|NVIDIA 75GB机密数据被黑客公开 超过40多万个文件
- 江天|北辰区江天数据科技有限公司：从“钢铁工厂”到“数据中心”
- 最新消息|上海今起施行剧本杀登记备案，全市首张《备案登记证明》发出
- 装备制造产业|中国电信京津冀大数据智算中心迎来首家企业
- 规定|《互联网信息服务算法推荐管理规定》今天起正式施行
- 外卖|大数据“杀熟”被明确禁止