创新工场“AI蒙汗药”入选NeurIPS 2019,3年VC+AI布局进入科研收获季( 六 )
此外,论文中提出的方法还能有效扩展至针对特定标签的情形下,即攻击者希望通过一些预先指定的规则使模型分类错误,例如将“猫”错误分类成“狗”,让模型按照攻击者计划,定向发生错误。
例如,下图为MINIST数据集上,不同场景下测试集上混淆矩阵的表现,分别为干净训练数据集、无特定标签的训练数据集、以及有特定标签的训练数据集。
实验结果有力证明,为有特定标签的训练数据集做相应设置的有效性,未来有机会通过修改设置以实现更多特定的任务。
对数据“下毒”技术的研究并不单单是为了揭示类似的AI入侵或攻击技术对系统安全的威胁,更重要的是,只有深入研究相关的入侵或攻击技术,才能有针对性地制定防范“AI黑客”的完善方案。
随着AI算法、AI系统在国计民生相关的领域逐渐得到普及与推广,科研人员必须透彻地掌握AI安全攻防的前沿技术,并有针对性地为自动驾驶、AI辅助医疗、AI辅助投资等涉及生命安全、财富安全的领域研发最有效的防护手段。
推荐阅读
- edg战队|EDG夺冠后,团队奖金已超600万,冠军皮肤销售分成有望创新高
- 手机游戏|“营收9位数”!LOL手游盈利再创新高,国服玩家立功,UZI的预言应验
- 王者荣耀|HGS输给GFS战队的原因找到了,桑杰连跪创新高,绝活哥只会元歌?
- 炒冷饭|热血传奇:如今的传奇版本是“炒冷饭”,还是开创新道路?
- 穿越火线|月光执教AG“屡创新低”,菲菲被气得破防爆粗口大骂月光,猫神真不能下:下了AG就没了!
- 王昭君|哈利波特手游:虎牙四个四遭遇连败,不断创新赫敏终于能打双排
- 炉石传说|炉石耗时一年推新模式,上线却遭滑铁卢,卡牌游戏创新就这么难?
- 炒冷饭|传奇世界:如今的传奇版本更新是“炒冷饭”还是创新?
- fpx战队|“FPX还活在19年”,外国网友怒斥FPX毫无长进,米勒直言:FPX没有创新,都是老一套
- 原神|明日方舟:如何看方舟最近极低的产能和无创新的重复性玩法?