刷屏的ZAO App 问题一箩筐,还能火多久?( 五 )

刷屏的ZAO App 问题一箩筐,还能火多久?

一键换脸很神奇,但隐忧也存在

当很多人都沉溺在ZAO的神奇效果中备感欣喜时,也有不少人对AI换脸的隐私安全问题产生了质疑和担忧。

当红女星被迫“下海”

Deepfakes在海外迅速被大众所了解,很大一部分原因是被不怀好意的人滥用。AI换脸技术的普及,催生出了大量虚假AI色情视频。这些小电影中的主角,被替换成了好莱坞的知名女星,“神奇女侠”、斯嘉丽、艾玛等人纷纷中招。

刷屏的ZAO App 问题一箩筐,还能火多久?

尽管在舆论压力之下,Reddit、Facebook等网站和社交平台都已经屏蔽了包含明星的AI换脸视频以及发布者的ID,但潘多拉魔盒一旦被打开,便很难再关上了。甚至已经有Fakeapp这种傻瓜式的操作软件,只要一台Windows电脑加上一块英伟达的中高端显卡,便能实现AI换脸功能。

推荐阅读