通过编辑照片中的人脸制作消遣娱乐短视频 ， 类似的应用您使用过吗？好玩的背后可能存在着安全风险 。 近期 ， 针对部分语音社交软件和涉“深度伪造”技术的应用未履行安全评估程序 ， 国家互联网信息办公室、公安部指导各地网信部门、公安机关依法约谈了11家企业 。
被约谈的11家企业为映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等 ， 网信部门、公安机关督促其按照法律法规及政策要求认真开展安全评估 ， 完善风险防控机制和措施 ， 并对安全评估中发现的隐患及时采取有效整改 ， 切实履行企业信息内容安全主体责任 。
文章图片
被约谈企业部分涉及“深度伪造”技术的应用 ， 什么是深度伪造技术呢？
中国信通院云大所人工智能部副主任 石霖：深度伪造技术以编辑或者替换视频、图像中人脸为目的 ， 用于消遣娱乐的一类软件 。 目前比较常见的主要是国外的一些软件 ， 像蚂蚁呀嘿（搞笑短视频）就是其中一种 。
文章图片
“深度伪造”技术能仿人脸 ， 能模仿声音吗？
中国信通院云大所人工智能部副主任 石霖：除了视觉的模仿外 ， 确实可以用于语音和听觉的模仿 ， 但是这些技术不能被称作“深度伪造” ， 可以称作“合成” ， 也有很多正向积极的应用 ， 比如我们常见的一些语音导航、新闻播报等 。
文章图片
【技术|三问“深度伪造”技术 11家涉语音软件和深度伪造技术企业被约谈】相关软件安全评估不完善 可能有怎样的危害?
中国信通院云大所人工智能部副主任 石霖：一方面这些软件是使用的我们个人的人脸、声音等个人信息 ， 如果保存不当 ， 会造成我们个人隐私数据泄露；另一方面这些软件可以被用于“恶搞”他人 ， 造成他人名誉和心理上的损伤 。 对此 ， 我们国家已经出台了相关政策法规 ， 要求禁止用于虚假新闻信息传播和制作 ， 同时对非真类音视频要求进行明确标识 ， 要求相应平台进行开展安全评估 ， 部署相应检测和鉴别技术 。
推荐阅读
- 快报|“他，是能成就导师的学生”
- 技术|“2”类医械有重大进展：神经介入产品井喷、基因测序弯道超车
- bug|这款小工具让你的Win10用上“Win11亚克力半透明菜单”
- 重大进展|“2”类医械有重大进展：神经介入产品井喷、基因测序弯道超车
- 历史|科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 空间|（科技）科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 精度|将建模速率提升10倍，消费级3D扫描仪Magic Swift在2021高交会大显“身手”
- 四平|智慧城市“奥斯卡”揭晓！祝贺柯桥客户荣获2021世界智慧城市治理大奖
- |南安市司法局“加减乘除” 打造最优法治营商环境
- 选型|数据架构选型必读：2021上半年数据库产品技术解析