GeekPwn2019招募顶级AI黑客：“声色”过招以AI欺骗AI( 二 )_过去的一年里

GeekPwn2018的CAAD 对抗样本攻防赛的现场，本是人类肉眼就能轻易分辨出来的事物，被白帽黑客们“黑”去细节后，令AI把蒋昌建老师的照片识别为阿诺德·施瓦辛格。由吴育昕和谢慈航两位选手组成的IYSWIM战队，通过生成一系列“对抗样本”，最终成功欺骗亚马逊在线名人鉴别系统，实现对在线 AI 服务的“致命一击”，最终以第一名的成绩赢走数十万元奖金。

GeekPwn2018“CAAD对抗性样本攻防挑战赛”参赛队伍 IYSWIM

（图说：亚马逊celebrity recognition将蒋昌建照片识别为阿诺德·施瓦辛格）

不久前，比利时鲁汶大学的两位少年，成功地为广大网友演示如何在AI面前召唤 “隐身术”。事实上，他们只是在肚子上贴一张图片就轻松躲过了目标检测界翘楚YOLOv2的火眼金睛，最终被判定为一件可有可无的物件，而非人类。这样的欺骗，就是著名的对抗攻击。不难想象，如果这些对抗图像被印在T恤上，人手一件，那时人人都能逃过智能监控系统，潜入某个空间“为所欲为”也不会被察觉……