数字时代正在改变我们的日常生活和经济方式 , 人工智能、大数据分析、区块链和云技术给我们的生活带来了诸多便利 , 但同时 , 也带来了新的脆弱性 , 大数据杀熟、不当索取个人信息、游戏沉迷、算法歧视、平台算法控制等等 。 数字时代的伦理问题始终存在 , 我们应该怎么看待这些问题 , 又应该如何解决?
近日 , 中国社科院哲学所科技哲学研究室主任、研究员 , 科学技术和社会研究中心主任段伟文在RealAI主办的人工智能产业治理论坛上作了《走向社会信任与多方共建的人工智能伦理治理》报告 , 讨论数字时代的科技伦理和社会信任的危机与重建 。
文章图片
段伟文认为 , 数字时代带来了很多便利 , 但其实际上又非常脆弱 。 当数字技术作为新事物出现时 , 操作便捷、门槛低、效率提升 , 因其带来很多便利而使数字世代愿意尝试 , 人们对短视频、各种新的支付方式等没有信任赤字 。 但便捷的另一面是风险没有被充分认识 。 最后造成伤害时 , 就会严重破坏整个社会对科技的信任 。
文章图片
科技活动应该遵循哪些科技伦理原则?据科技部官网 , 7月28日 , 科学技术部科技监督与诚信建设司研究起草了《关于加强科技伦理治理的指导意见(征求意见稿)》 , 明确科技伦理的原则为增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明 。
文章图片
段伟文提出 , 如果希望这些伦理原则不成为伦理洗白工具而是真正落地 , 很重要的是一种工作假设 , 即科技创新的过程也是伦理创新的过程 , 也是伦理从0到1的过程 。 0就是原则 , 1就是落地 , 即技术创新要和价值创新同步 。
文章图片
段伟文认为 , 中国的数字产业的发展基本是奉行着鼓励创新、包容审慎的立场 , 所以虽然前些年制定很多法律 , 但存在一个悖论——严格立法、普遍违法、选择执法 。 在近几年 , 从短视频防沉迷再到应用软件不当的索取个人的数据 , 都有专项的治理 , 还有金融科技的治理 , 包括中止上市 , 相关机构或企业成立金融科技伦理委员会等 , 还比如跨境数据治理导致应用软件下架等等 。
当下是快速变动的时代 , 有很多的创新便利 , 同时也有巨大风险 , 段伟文以沙漏做比喻 , 他提出 , 以前政府管理部门只是处在沙漏的上方 , 没有感知到变化的迅速 , 但现在随着社会舆论 , 国际政治 , 国内外的格局等变化 , 政府会感到沙漏的巨大风险 。 段伟文总结道 , 在这样的情况下 , 政府的治理有两个特点 。
第一 , 先发制人 , 一旦察觉风险 , 就将其扼杀在摇篮中 。
第二 , 当察觉一种技术的滥用造成社会整体治理架构不能接受的风险时 , 就会追溯既往 , 即以往犯的错误也是不可接受的 。
在这样的情况下 , 企业不仅仅需要根据合规不合规去思考问题 , 也需要思考对不对 , 去做出治理 。 段伟文认为 , 整个社会都有一个对科技活动的许可 , 这种许可不一定是有形的 , 但是存在的 。
【段伟文|中国社科院段伟文:AI技术价值中立,但需通过努力实现】2014年 , 由于一家化工厂不断排出“臭鸡蛋”味 , 河南省新乡市获嘉县居民聚集抗议要求将化工厂迁离 。 化工厂、垃圾焚烧厂、核电站等的建设过程中出现的大量公众事件阻止这些科技的发展 , 段伟文将其解读为社会许可证 , 即公众答应与否 。 其提出 , 公众当下对人脸识别的宽容态度来自于还没有感知到重要风险 , 一旦出现重大恶性事件 , 公众的许可就会消失 。
“那么一个很重要的问题是 , 要直面社会许可的挑战 , 不能只等到出现了恶性事件 , 再做治理 , 不能仅仅满足于合规 , ”当下面对这样一种既先发制人也追溯既往的治理格局 , 段伟文认为 , 企业应该更多考虑怎样重塑科技的社会印象 , 这是非常关键的 。
文章图片
在措施方面 , 段伟文提出 , 一个是技术上改进 , 比如隐私计算等 , 另一个是伦理设计 , 比如游戏的防沉迷机制 , 在知晓用户滥用技术时提醒其不要过度使用 。 更重要的是关怀伦理 , 即从用户的角度去关心他 , “说个不恰当的例子 , 在有些赌场现在实行关怀伦理 , 当你输一百万的时候他会告诉你你剩下了20万 , 你别输了 , 你今天手气不好 , 坐下来喝喝茶等等 。 所以我们可以看到世界上的善和恶可能有各种各样的标准 , 但唯一的一种智慧就是我们做什么事情都要有个度 , 这是最重要的 , ”段伟文说 。
2021年1月5日 , 全国信息安全标准化技术委员会发布了《网络安全标准实践指南—人工智能伦理安全风险防范指引》也明确了四大责任主体 , 研究开发着、设计制造者、部署应用者、用户 。
“技术是价值中立的 , 但它是需要通过努力实现的 , 真正意义上的创新应该面向用户 , 面向社会价值 , 是整体性的创新 , 而不只是增加财富 , 加强资本 。 ”段伟文呼吁 , “我们要超越技术解决主义 , 当下有很多手段能解决伦理问题 , 但更重要的是超越这些技术手段 , 用更广泛的社会关怀进行补充 。 ”段伟文进一步阐释 , 从疫情防控期间可以看到 , 很多技术手段的应用需要人的关怀 , 比如手机的适老化 , 这些都是很有意义的 。
推荐阅读
- 最新消息|中围石油回应被看成中国石油:手续合法 我们看不错
- 系列|2021中国航天发射圆满收官!年发射55次居世界第一
- 微信|微信支付“九宫格”全面支持开通中国银联云闪付
- IT|全球汽车行业价值两年突增至3万亿美元 中国电动车企立大功
- 运载火箭|2021中国航天发射次数首破50
- 孙自法|中国科技馆“智能”展厅携多款机器人亮相 喜迎新年和人机共融时代
- 观众|中国科技馆“智能”展厅携多款机器人亮相
- 观众|古筝机器人现场演奏,32件展品亮相中国科技馆“智能”展厅
- 疫苗|中国生物:全球首支获批使用二代新冠疫苗将在阿联酋用于序贯接种
- 风险|筑牢安全线 打造防护堤 中国移动为5G业务发展保驾护航