创新工场“AI蒙汗药”入选NeurIPS 2019,3年VC+AI布局进入科研收获季( 五 )

下毒无痕,毒性不小

从实验数据可以发现,在MNIST、CIFAR-10以及缩减版的IMAGENET这些不同数据集上,使用“未被下毒”的训练数据集和“中毒”的训练数据集所训练的系统模型在分类精度上存在较大的差异,效果非常可观。

创新工场“AI蒙汗药”入选NeurIPS 2019,3年VC+AI布局进入科研收获季

与此同时,从实验结果来看,该方法生成的对抗噪声具有通用性,即便是在随机森林和支持向量机这些非神经网络上也有较好表现。

其中,蓝色为使用“未被下毒”的训练数据训练出的模型在泛化能力上的测试表现,橙色为使用“中毒”训练数据训练出的模型的在泛化能力上的测试表现。

创新工场“AI蒙汗药”入选NeurIPS 2019,3年VC+AI布局进入科研收获季

在CIFAR和IMAGENET数据集上的表现也具有相似效果,证明该方法所产生的对抗训练样本在不同的网络结构上具有很高的迁移能力。

推荐阅读