原创<br> 全球“黑客大赛”冠军霸气讲述:我是如何让50个文件一起骗过AI安防系统的?( 五 )

Ember的漏洞是攻击者可以任意控制某些特征。lightgbm模型在集成树的多个位置使用这些特征。我们可以利用模型的复杂性,通过操纵特征来推动导致逃避的决策。

前期准备

竞赛代码附带了一个脚本,用于在一个文件中运行三个模型。我修改了脚本以评估整个恶意软件目录,并使用altair添加了一个有趣的可视化记分板:

原创<br> 全球“黑客大赛”冠军霸气讲述:我是如何让50个文件一起骗过AI安防系统的?

原始恶意软件文件的初始扫描。

表情符号骷髅代表模型检测到恶意软件,而笑脸则代表一次躲避。有趣的是,49号文件本身就躲过了MalConv,所以我们免费得到1分。

计划

棘手的部分是,找到同时影响三个模型的有效操作,或者至少影响一个模型,而不挑战其他模型。我决定专注于有望同时影响三个模型的攻击。

附加数据(Overlay)

推荐阅读