偏见性|在我地盘这儿,算法得听我的

#本文为人人都是产品经理《原创激励计划》出品。
在互联网与人们生活深度融合的同时,算法也在不知不觉间“入侵”我们的日常点滴,比如人们逐渐习惯平台首页推荐出现的都是自己感兴趣的内容。而《互联网信息服务算法推荐管理规定(征求意见稿)》的颁布打破了这一“入侵”。毫无疑问,未来算法推荐将迎来大变革,个人信息安全也会愈发受到重视。
偏见性|在我地盘这儿,算法得听我的
文章插图
2012年,美国的一位父亲怒气冲冲地投诉他家附近的塔吉特超市,因为超市为他未成年的女儿不断发送各种婴儿用品的优惠券。而后来,没想到这位父亲发现他的女儿真的怀孕了。算法比这位父亲更早地知道了他女儿怀孕。从那时起,大数据和算法伴随着这个故事开始广泛流行。
2021年,算法已经悄然变得比我们自己更懂自己。有时候只是心里念着一样东西,随便打开一个购物APP,就看到一模一样的东西出现在了首页的推荐清单里。驾车时我们也无需记忆各种复杂的地图,只需要输入起点和终点就能得到算法匹配出的最优路线。
而当一件一件的事情变成了一个一个的算法,一个一个的人变成了各式各样的算法标签,不仅是外卖员困在了算法里,不容任何差错地追赶算法给出的最优路径;每个人也似乎都按照算法给出的画像生活,看算法认为你感兴趣的新闻,看算法推荐给你的有趣的视频,购物平台也早已为你生成了你需要购买的物品清单……
算法带来的便利渐渐消除掉了人们的温情和对未知的好奇心,不由得让人们开始反思怎样让算法融入而不是控制我们的生活。
一、算法推荐服务专项管理规定出台2021年8月27日,国家互联网信息办公室颁布了《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称“《意见稿》”),从国家层面开始对算法推荐服务进行监督和管理。
《意见稿》对目前算法推荐服务存在的问题提出了相应的管理规定,我们先来解读一下对几个热点问题的规定。
1. 不得进行大数据“杀熟”大数据“杀熟”可谓是算法带来的最为严重的问题之一,各大平台利用大数据算法对用户个人进行画像分析,对不同用户实施差别化定价。
特别是对于价格不敏感的老用户收取更高的费用来补贴新用户,把老用户当“韭菜”来割。这样的行为也引起了社会普遍的不满。
对此,《意见稿》第十八条专门提出,“算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者合法权益,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为”。
2. 规范各类推荐榜单及热搜对于各类榜单和热搜,当人们研究清楚了相应算法的规则,不免会有人利用规则漏洞采取各种各样的方法来操控榜单。
我们经常看到众多流量明星的内容频繁出现于微博热搜榜之中,活跃于各大媒体的推荐榜单之中,而这些内容却始终没有与流量一致的反响程度和价值。
《意见稿》第十一条提出,“算法推荐服务提供者应当加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制”,希望能够通过人工干预来弥补推荐算法缺乏价值判断的漏洞。
第十三条更是明确规定,“算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号,或者虚假点赞、评论、转发、网页导航等,实施流量造假、流量劫持”,从源头限制算法推荐服务提供者既制定算法规则,又利用算法漏洞操控推荐内容。
偏见性|在我地盘这儿,算法得听我的

推荐阅读