易坊好文馆

  1. 首页 > 玩科技 >

张钹|院士张钹：AI算法有安全隐患 呼吁多方共治

人工智能 品牌 互联网 创新 问题 汽车 数据 技术 行业 成功 算法 消费者 大厂 的发展 环境 促销 治理 板块 利好 科技股 涨幅 节日 张钹 狂欢节 中证 易车 中银 曾毅 混合基金 陈际红


张钹|院士张钹：AI算法有安全隐患 呼吁多方共治
文章图片

经济观察网 采访人员 沈怡然 随着AI技术的精进和产业落地 ， 业界开始聚焦关于产业治理的争端和问题 。
8月3日 ， 首届全球数字经济大会的人工智能产业治理主题论坛在京举办 ， 该论坛由北京市经济信息化局、海淀区人民政府共同主办 ， 由清华大学人工智能研究院、北京智源人工智能研究院以及北京瑞莱智慧科技有限公司共同承办 。
在论坛上 ， 中国科学院院士张钹首先抛出一个观点：当前 ， AI的安全治理是迫在眉睫的 ， 随着技术潜入到“深水区” ， 研究界发现 ， AI的算法存在一些根本性的问题 ， 本身就带有不安全性 ， 容易受到攻击 。
张钹认为 ， 对人工智能进行治理 ， 防止它被误用、制止它被滥用 ， 需要从技术创新层面发力去“治本” ， 但这条路漫长且艰难 ， 同时 ， 也要从法律法规、伦理规范、行业共识等不同层面去“治标” 。
争议和问题随之出现 ， 为何AI的安全漏洞难以修补 ， AI的发展方向是否正确 ， 政府、企业在其中又该承担什么责任？
原理的漏洞
行业普遍将人工智能的主体分为四类 ， 研发者、设计者、部署者、用户 。 张钹表示 ， 信息技术产业发展中有很多安全性问题 ， 普遍是由设计的缺陷造成的 ， 这个缺陷被利用后 ， 对系统进行了攻击 ， 所以只要把漏洞补上就能解决 。
但AI技术所面临的安全问题是非常特殊的 ， 其问题不在于设计 ， 而是源自算法本身的不安全性 。 在张钹看来 ， 这种算法的不安全性 ， 是由第二代人工智能所引起的 。
第一代人工智能指的是用计算机来解决问题 ， 第二代指的是以AlphaGo为标志的深度学习 。 张钹表示 ， 在第二代技术中 ， 对图像、语音、文字的处理都可以利用深度学习来做 ， 这种技术在数据样本充足的条件下 ， 在人脸识别、语音识别等场景下 ， 效率是非常高的 。
但是 ， 里面用到的算法非常脆弱 。 张钹举例称 ， “两张一模一样的雪山图片 ， 如果对右图加入一点噪声 ， 那么人类视觉看起来还是雪山 ， 但计算机就会将右图识别成一条狗 。 可以看出人类视觉和计算机识别完全是两回事” 。
张钹认为 ， 这是有可能通过创新来解决的 ， 方案之一就是发展第三代半导体技术 ， 但这是一项长期任务 ， 技术的路径也非常艰难 。
法律的治理
针对不安全性 ， 治理的目标也指向两类行为 ， 一类是有意识地滥用AI技术 ， 一类是无意识地误用 。 前者行为需要通过法律来解决 ， 加以制止 。
中伦律师事务所合伙人陈际红在会上表示 ， 当前 ， 人工智能的立法 ， 已经涉及到隐私保护、数据安全、网络安全、公平竞争、消费者权益保护等方面 。
人工智能产业离不开数据处理 ， 一个重要的立法就是《数据安全法》 ， 该法将于今年9月生效 。 陈际红表示 ， 该法的监管对象是数据处理活动 ， 一个重要的内容是 ， 建立分类分级保护制度 。 在判断一种数据能否使用、能否公开、能否跨境运输方面 ， 这些内容提供了很好的标准 。 如果是关系到重要民生、国家安全的核心数据 ， 出境则需要强监管 。
另一项限定关于数据交易 。 陈际红表示 ， 当前一些数据交易机构的运作 ， 引起了很多问题 ， 比如数据的可交易性、对隐私的侵犯等 。 该法也针对数据中介做了一系列明确规定和管控 。
同时 ， 该法也建立起国家安全审查制度 ， 同时 ， 对数据处理活动也提出了监管措施 ， 以及一定的反制措施 。 随着AI与社会的关系发展密切 ， 关于立法、司法解释会延伸到技术的更多角落 。
伦理的规范
若将AI作为客体 ， 则可用法律来治理 。 但换个角度 ， 我们究竟要发展什么样的人工智能 ， 过去的路是否走偏了？厘清它的愿景 ， 对于当前的治理也是非常重要的 。
论坛上 ， 中国科学院自动化研究所研究员、联合国教科文组织人工智能伦理特设专家组专家曾毅表示 ， 全球发展AI的一个共同目标是“以人类为中心” ， 这会让人忽略技术对环境、生态的影响 ， 甚至让人过于看重短期利益 。
在曾毅看来 ， 愿景应该是打造一个负责任的、可持续的人工智能 ， 这也是最大伦理原则 ， “如果人工智能的创新的目标就是赚钱 ， 那么大多数可持续发展目标无法通过人工智能来实现” 。
【张钹|院士张钹：AI算法有安全隐患 呼吁多方共治】国家新一代人工智能治理专委会曾对AI提出一些原则 ， 重点之一是协调好发展与治理的关系；重点之二是 ， 在安全可靠、可控的背景下 ， 推动的不仅仅是经济发展 ， 同时关注经济社会和生态协同的可持续发展 ， 共建人类命运体 。
这些治理的理念必须落实到参与者之间 。 曾毅表示 ， 这和企业非常相关 ， 但绝对不是企业唯一的问题 ， 还涉及到设计者、研发者、供应者、部署者、管理者 ， 真正实现多方共治 。
企业的责任担当
在本次大会上 ， 首个《人工智能产业担当宣言》正式发布 ， 该宣言由北京智源人工智能研究院和瑞莱智慧共同发起 ， 百度、华为、蚂蚁集团、寒武纪、爱笔科技、第四范式、出门问问等在内数十家研究机构与创新企业联合参与 。
宣言包含五项倡议 ， 首先强调 ， 人工智能系统的设计、研发、实施和推广应符合可持续发展理念 ， 以促进社会安全和福祉为目标 ， 以尊重人类尊严和权益为前提 。 其次在技术能力方面 ， 提出要最大限度确保人工智能系统安全可信 ， 提高鲁棒性及抗干扰性 ， 要增强算法透明性和可解释性 ， 同时保障各方权利和隐私 ， 对用户数据提供充分的安全保障 。
对于该宣言 ， 北京瑞莱智慧科技有限公司CEO田天表示 ， 让人工智能更好地服务于人类 ， 是行业共同的目标 ， 当整个社会重新审视技术的价值 ， 科技从业者更应感受到科技治理的紧迫性和使命感 ， 应当积极主动开展自治工作 ， 同时开放共享 ， 共举科技担当 。

    推荐阅读


    上一篇：防范|防范AI潜在风险 CFCA人工智能算法金融应用评估显真章

    下一篇：互联网公司|大厂人才频频出走，创业机构屡获资本青睐 AI将迎来收获季？