三枚小贴纸,让特斯拉拐进反向车道:腾讯找出Autopilot三大缺陷( 二 )

不过,只要在特斯拉眼前播放干扰画面,展开对抗攻击:

三枚小贴纸,让特斯拉拐进反向车道:腾讯找出Autopilot三大缺陷

特斯拉便以为在下雨了。而且,从雨刷挥舞的频率来看,还不是绵绵细雨。

有特殊纹理的图像,是可以欺骗图像识别系统的。

并且,只要偷偷加入定制的噪音(下图中间) ,便可以在人类没有察觉的情况下,骗倒一只AI:

熊猫被认成了长臂猿;乌龟成了步枪,而且翻过来调过去都是步枪。

三枚小贴纸,让特斯拉拐进反向车道:腾讯找出Autopilot三大缺陷

所以,骗开雨刷器有什么危险?

特斯拉的图像处理工具,都是身兼数职的:追踪其他车,追踪物体和车道,为周围环境画地图,以及估计雨量……

并且,腾讯团队惊讶地发现,刚才这些任务里面,大多数都是只靠单一神经网络来完成的。

推荐阅读