易坊好文馆

  1. 首页 > 玩科技 >

人工智能|观察丨瑞莱智慧唐家渝：AI安全风险背后原理何如，怎样应对( 二 )


除了算法漏洞 ， “数据驱动”衍生的安全风险还远不于此 。 海量人脸数据被恶意采集、滥用 ， 导致用户隐私泄漏；泄露的人脸照片在表情驱动算法下生成伪造视频 ， 用于攻破人脸核验系统等...如何有效应对人工智能安全风险 ， 保障人工智能安全可控的应用落地成为一项重要课题 。
那么应如何寻求解决方案呢？
人工智能应用是集业务、算法、数据于一体的有机整体 ， 涉及训练、检验、运行等生命周期阶段 。 唐家渝表示 ， 应面向所有关键流程 ， 布局全面且有针对性的安全防御措施 。 同时他强调 ， 人工智能安全攻防技术在快速演变过程中 ， 新的攻击手段不断出现 ， 除了要解决“近忧” ， 更要着眼于“远虑” ， 对于未知威胁进行研判和防范 ， 因此需打造动态升级、科学前瞻的防御理论及技术体系 。
瑞莱智慧的解题思路就是建立兼顾“被动”和“主动”的防御机制 。 唐家渝解释道 ， 被动防御为AI应用部署静态的安全能力 ， 防范已知安全风险 ， 比如对外部访问、输入数据、行为决策等进行检测 ， 为算法模型部署加固防护组件等 ， 提升系统抵御攻击的能力 。 主动防御则是为补充被动式防御的局限 ， 引入和强化人工智能安全团队力量 ， 以动态防御对未知威胁进行风险预判 ， 构建自适应、自生长的安全能力 。
具体而言 ， 目前在被动防御方面 ， 瑞莱智慧推出多款人工智能安全产品：AI安全防火墙 ， 其能够在AI系统运行环节有效检测和抵御对抗样本、深度伪造等新型攻击手段；人工智能安全平台RealSafe ， 集成对抗攻防算法 ， 提供端到端的模型安全检测能力 ， 自动化高效评估AI安全风险 ， 并提供安全性增强方案；隐私保护计算平台RealSecure ， 在数据训练、建模等环节部署数据安全能力 ， 实现“数据可用不可见” 。
在主动防御方面 ， 瑞莱智慧则推出人工智能安全靶场RealRange ， 提供实战化、体系化的一站式人工智能攻防演练服务 ， 基于攻防实战演练将安全风险暴露前置 ， 提前发现和适应瞬息万变的新型攻击和高级威胁 ， 动态提升团队软实力 ， 实现“让风险发生在靶场 ， 让有效防御构建在安全事件之前” 。
瑞莱智慧AI安全产品矩阵 ， 可实现对人脸识别、目标检测、图像分类等系统的安全升级 ， 目前已在多个场景得到应用 。 比如与国内某头部人脸识别支付厂商合作 ， 通过利用AI对抗攻击算法全面发掘人脸识别模型的漏洞 ， 并进一步提供防御加固方案 ， 提升刷脸支付的安全性 。 与某电网企业的合作中 ， 利用RealSafe平台自动发掘输电线路危险品识别算法模型的漏洞 ， 通过对抗训练提升算法鲁棒性 ， 确保国家基础设施安全性 。

推荐阅读


上一篇：同行人|外地抵（返）牡人员 请使用“牡疫控”提前填报

下一篇：摘星|心向九霄，手摘星辰