澎湃新闻|澎湃社论：警惕变声、换脸技术滥用_

文章图片
图1/1

去年12月，某公司财务小王接到领导电话，要求立刻给供应商转款2万元。电话里传来的确实是老板的口音，因此小王立刻照办。没想到，这是一场彻头彻尾的骗局。
【澎湃新闻|澎湃社论：警惕变声、换脸技术滥用】这是公安部网安局公布的一起真实案例。骗子使用的是合成声音技术，能让伪造的声音以假乱真。比合成声音更高级的是“深度伪造”（deep fake），这是一种将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术，最常见方式就是AI换脸。随着人工智能技术的发展，变声、换脸在互联网产品中的应用越来越普及。
近日，国家互联网信息办公室、公安部指导各地网信部门、公安机关约谈小米、快手等11家企业，加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作。
针对技术发展的新动向，及时出手、迅速反应，充分显示出有关部门的前瞻意识和忧患意识。如何消除“深度伪造”技术带来的安全隐患，完善风险防控机制和措施，正是全社会共同关心的问题。
这绝非危言耸听。以往，影视作品中的换脸操作起来非常复杂。早在1994年上映的经典电影《阿甘正传》里，我们就能见识到早期的换脸术。但如今，随着“深度伪造”这样公开且轻量化技术的出现，换脸的门槛也越来越低了。哪怕是普通人，也能在短时间学习之后熟练掌握这项技术。
不仅是日常生活，面容和声音造假还有可能对社会乃至整个世界的正常运行带来巨大威胁，美国喜剧演员皮尔曾经利用合成技术伪装成前总统奥巴马并发表“视频演讲” 。眼见未必为实、耳听未必为真，这种能让任何人扮演任何人的高科技伪造技术，必然会颠覆人们的认知，给社会带来恐慌。
作为个人，我们必须要在平时的生活中提高防范意识。公安部网安局提醒， “看眼睛”是识别假脸的方法之一，因为假脸极少甚至不会眨眼。
但已有专家提醒，随着“深度伪造”技术的发展，肉眼无法识别的假脸已经离我们越来越近。因此，还得从源头抓起，积极主动进行监管，比如要求互联网视频发布实名制、加强相关立法等。
此次有关部门约谈企业，就是要敦促其切实履行企业信息内容安全主体责任，共同维护网络传播秩序，营造良好网络生态。
人类已经进入人工智能时代。虚拟技术可以让教学更有趣味性，虚拟主播播报新闻更有亲和力， “深度伪造”可以让影视创作突破时空限制……社会应该积极鼓励人工智能技术在医疗、教育、艺术、社交等领域的应用和发展，但也必须对变声、换脸等形式的技术滥用保持警惕。
说到底，科技是一把双刃剑，本身无关善恶，能不能用好新技术新应用，关键还在于使用的人。

澎湃新闻|澎湃社论：警惕变声、换脸技术滥用

推荐阅读

如何找寻自我

缝纫机调线器怎么安装平车方法如何

强组词强字组词

火笋鸡翅的做法（增肥食谱）

闺女生日快乐祝福语朋友圈

LV请来潮牌设计师做艺术总监，看中的是啥

老虎豆怎么做好吃老虎豆图片怎样弄来吃

暖气有流水声是什么原因

皮球是什么体

手机怎样开通QQ空间

男生发mua说明 mua是什么意思

手指盖凹陷怎么回事

对自己的生活失去掌控咋调整

小米10s怎么没有月亮模式

我想找个偏僻的地方搞养殖！有没有推荐的地方？

南京养老金认证上门服务怎么申请南京市养老金认证

如何评价猪场阉割猪？

最后一个字是豹的成语

泰山散酒怎么样

猫发情的声音(猫发情的叫声)