人有两种记忆，而基于深度学习的AI只有一种，所以AI有问题？( 三 )_9月21日-22日

由此来看，“可信AI彰显的是一种价值主张，是媲美人类的AI。”李真真强调，可信AI应是类人类，而不是非人类，它应当与人类的价值和规范相吻合、相一致。

··3··

基于合法合规开发的AI，仍挑战现有价值观

如何使AI和人类的行为相吻合，李真真表示，可通过外部控制和内部控制实现。所谓外部控制，是通过治理机制实现人的监督；内部控制是将人的价值观和规范嵌入AI系统。

如今，在数据安全、隐私保护等监管趋严的形势下，行为合法、合规成为企业的价值观和意识形态。

“隐私保护、数据孤岛问题是传统AI模型面临的两个很大的问题。”李真真表示，联邦学习采取加密机制下参数交换的方式，可在大数据交换时保证数据安全，保护终端数据和个人隐私数据，保障在合法合规的前提下，实现共同建模、提升AI模型的效果。

不过，李真真强调，即使在合法合规的框架下开发AI，仍面临很大的问题。因为AI本身不断挑战现有的价值观，甚至对现有伦理的基本预设构成挑战，“如何使法律和政策及时跟进，这是面临的非常大的挑战。”

人有两种记忆，而基于深度学习的AI只有一种，所以AI有问题？( 三 )