唏嘘!曾经爆红的ZAO APP下架被约谈( 四 )

这个APP有这么危险么?

有人会说,不就上传个照片嘛,平时朋友圈那么多人发照片,不见有什么危险。

说实话,求真君用这软件还是有点被震惊到,仅需一张照片就能制作出还挺像样的视频,那如果拿到你更多生活照,还有你的声音,岂不能配合制作出更以假乱真的视频?你相信自己的爸妈能警惕假冒你的电话,能顶得住假冒你的视频吗?

之前微博热搜把《神雕侠侣》的朱茵换成杨幂,初看毫无违和感,让人感叹明星以后拍戏用照片就行了,真人动都不用动。

求真君不由想起之前“明星换脸情色小视频”也和这技术异曲同工,还好ZAO还不支持用户自己上传视频模板,只能用APP内的模板,不然相信朋友圈和微信群将是好戏连连……

腾讯优图实验室总经理吴运声表示:现在网上有换脸的技术,可以通过技术制造声音、视频,还可以用技术模拟出摄像头的录制,比如你没有到这里,但技术可以把你做到这里,很容易被黑产、灰产利用。

这些让我一直思考技术的准则在哪里,底线在哪里。黑产、灰产不断有对抗(技术)的手段,在解决对抗问题的过程中,我们也在不断推进技术往前发展。

推荐阅读