终极|郭锐:算法面临终极准则、因果关系两大难题

中新经纬客户端6月26日电 (薛宇飞)近日 , 由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行 。

终极|郭锐:算法面临终极准则、因果关系两大难题
文章图片

中国人民大学法学院副教授郭锐 。 来源:主办方供图
中国人民大学法学院副教授郭锐在研讨会上称 , 现在的人工智能虽然还没有达到像人一样的决策与判断能力 , 但却已经在做各类决策 。 可以说 , 当代的人工智能应用把人彻底带入到算法决策的技术规程中 , 这就产生了伦理问题 , 既可能是已有伦理问题的弱化 , 也有可能是新问题的产生 。
算法伦理有两个问题难以跨越 , 或者说是目前的技术路径无法跨越 , 一个是终极准则难题 , 另一个是因果关系难题 。 这两个难题的产生不是故意的 , 所有推荐算法都不是故意的 , 具体到推荐算法上 , 什么是低俗 , 什么样的情况是信息茧房 , 对这些准则每个人都有不同的看法 , 这是终级准则难题的体现 。 因果关系难题上 , 推荐算法也许并不是专为传播低俗、低质量的内容而设计 , 或者说这都不是故意的 , 但最终产生这种结果却是有算法上的原因的 。
郭锐还称 , 希望算法表现出来的价值 , 能够和人的价值一致 , 至于是哪一群人 , 这个问题是有争议的 , 这是人类社会终极准则难题的表现 。 “什么是低俗?让权威报纸的编辑去看 , 很多内容都是低俗 , 但普通人却可能认为不是 。 推荐算法本质上是一个排序问题 , 至于怎么排序 , 必须具体讨论 。 ”
【终极|郭锐:算法面临终极准则、因果关系两大难题】从算法治理角度看 , 基础环境变化后 , 标准、观念也会变化 , 但这可能是一个长期的过程 。 (中新经纬APP)

    推荐阅读