让大家瞧瞧可笑的微软, 谷歌如何用利用人工智能对抗黑客( 五 )_去年微软公司的Azure安全小组检测到一

荷兰保险公司NNGroupNV使用微软的高级威胁保护系统来管理其27 ， 000名员工和亲密合作伙伴的访问，同时将其他所有人拒之门外。今年早些时候，该公司工作场所服务经理威尔科·詹森向员工展示了微软Office云软件中的一个新功能，即屏蔽所谓的CXO垃圾邮件，即垃圾邮件发送者假装是一名高管，并指示接收方转移资金或分享个人信息。

机器学习安全系统并不是在所有情况下都能工作，特别是当没有足够的数据来训练它们时。研究人员和公司经常担心他们可能被黑客利用。

例如，他们可以模仿用户的活动来阻止筛选典型行为的算法。或者黑客可以篡改用于训练算法的数据，并为了自己的目的而扭曲它-所谓的中毒。。

到目前为止，这些威胁更多地出现在研究论文中，而不是现实生活中。但正如Biggio去年在一篇论文中所写：“安全是一场军备竞赛，机器学习和模式识别系统的安全性也不例外。 ”