蓝皮书|《人工智能安全框架》蓝皮报告:360累计发现框架平台依赖组件漏洞100余个

【蓝皮书|《人工智能安全框架》蓝皮报告:360累计发现框架平台依赖组件漏洞100余个】北京商报讯(采访人员 魏蔚)12月11日 , 北京商报采访人员从360获悉 , 中国信息通信研究院安全研究所发布了《人工智能安全框架(2020年)》蓝皮报告(以下简称“蓝皮书”) , 360参与编制 。 蓝皮书显示 , 360首次发现并披露机器学习开源框架平台供应链安全风险 , 截至2020年11月20日 , 360累计发现框架平台依赖组件漏洞100余个 。
在新基建推动催化下 , 人工智能技术将加快转变为像水、电一样的基础设施 , 向社会全行业全领域赋能 。 然而 , 人工智能基础设施却潜藏安全风险 。 一是人工智能算法自身存在技术脆弱性;二是人工智能新型安全攻击不断涌现;三是算法设计实施有误产生非预期结果 。
现阶段企业主要聚焦于人工智能技术研发和产品运营 , 在人工智能安全方面投入相对较少、基础薄弱 。 因此 , 该蓝皮书聚焦人工智能安全风险 , 凝聚业界专家共识 , 构建人工智能安全框架 。 “人工智能安全框架 , 不仅能为企业提供提升人工智能安全能力的可参考路径 , 指导企业合理进行人工智能安全资源投入 , 并能为人工智能安全技术研发提出方向建议 , 推动人工智能安全技术产品化和服务化 。 ”该蓝皮书写道 。
根据蓝皮书信息 , 360旗下的AI安全研究院在全球范围内率先发现了众多人工智能安全问题 。 蓝皮书显示 , 三六零首次发现并披露机器学习开源框架平台供应链安全风险 , 目前全球著名漏洞数据库CVE披露的37个Tensorflow漏洞中 , 24个由中国安全厂商360发现 。

    推荐阅读