创新工场“AI蒙汗药”入选NeurIPS 2019,3年VC+AI布局进入科研收获季

科技频道提示您本文原始标题是:创新工场“AI蒙汗药”入选NeurIPS 2019,3年VC+AI布局进入科研收获季

允中 发自 凹非寺

NeurIPS 2019放榜,创新工场AI工程院论文在列。

名为“Learning to Confuse: Generating Training Time Adversarial Data with Auto-Encoder”。

一作是创新工场南京国际AI研究院执行院长冯霁,二作是创新工场南京国际人工智能研究院研究员蔡其志,南京大学AI大牛周志华教授也在作者列。

创新工场“AI蒙汗药”入选NeurIPS 2019,3年VC+AI布局进入科研收获季

论文提出了一种高效生成对抗训练样本的方法DeepConfuse,通过微弱扰动数据库的方式,彻底破坏对应的学习系统的性能,达到“数据下毒”的目的。

创新工场介绍称,这一研究就并不单单是为了揭示类似的AI入侵或攻击技术对系统安全的威胁,还能协助针对性地制定防范“AI黑客”的完善方案,推动AI安全攻防领域的发展。

推荐阅读