《人工智能治理上海宣言》发布,AI发展要遵循四大责任( 二 )

《人工智能治理上海宣言》发布,AI发展要遵循四大责任

图2/3

上海市计算机学会青工委副主任王昊奋教授在论坛上宣读了《中国青年科学家2019人工智能创新治理上海宣言》。在伦理责任方面,宣言呼吁制订相关法律法规,明确用户权属,加强隐私保护意识,发展隐私保护算法和技术,以公开、透明、合法的方式收集和使用数据。人工智能应遵循公平、无歧视原则,对不同人群提供无偏见服务;应从系统工程角度出发,构建数据多样、算法无偏见的人工智能系统,提升用户体验的公平性。宣言指出,人工智能应符合人类价值观和利益,要制订可被广泛认可的人工智能道德规范,提出遵循道德规范的算法、产品设计技术框架,作为推理和决策时共同遵守的基本原则。

《人工智能治理上海宣言》发布,AI发展要遵循四大责任

图3/3

在安全责任方面,宣言指出,人工智能应是安全、稳健的,要将技术鲁棒性和安全性贯穿于整个研究过程,提供安全可信系统,提高系统抗攻击、自我修复能力。人工智能算法应是透明且易被解释的,要致力于开源、可解释性研究,增加非黑盒算法研究,多层面提高透明度,以证明其结论和行为符合道德参考框架。

推荐阅读