透视全球AI治理十大事件：站在创新十字路口，人工智能会失控吗？( 十 )_AI显著的帮助了社会生产效率的提高

人类对变脸的痴迷，古已有之。从川剧变脸到《聊斋志异》「画皮」，经典久经不衰的背后，或许是因为变脸提供了一种关于身份转换、摆脱现实桎梏的遐想。

基于计算机技术的易容术早已有之，但是， AI 第一次让变脸如此平民化，无论是技术门槛还是传播门槛，都被降至极低。特别是像 AI 换脸软件这种作为手机 APP 出现，「应该还是头一次」，一些业内人士表示。

由于不少高频使用的 App 都用手机号+面部图像注册登录，中国用户担心 AI 换脸软件被不法分子利用，通过技术合成完成刷脸支付等；或在微信视频，假扮家人朋友却不被识破，导致诈骗甚至更严重的犯罪行为。

除此之外，该 AI 换脸软件对用户肖像权的管理也充满争议甚至陷阱，比如如何规范用户合理使用他人肖像？又如何保护用户自身肖像权不被侵犯与滥用？

目前，该 AI 换脸软件因存在「安全风险」而被中国微信封杀。然而，据媒体报道，具有 Deepfake 功能的代码出现在了海外版某知名短视频社交应用的安卓版本上，尽管它限制了未成年人使用这项功能，只允许你自己换脸，并阻止用户上传自己的源视频，但此项动作表明，该短视频社交应用的母公司仍愿意接受有争议的技术。