专访倪光南：人工智能发展应吸取教训，核心技术不能靠买靠换( 三 )_：专访倪光南：人工智能发展应吸取教训

“这些机器人在软件和硬件上都不应该有问题，但在学习过程之中出现了更复杂的情况。”倪光南说道。这是过去从未考虑过的问题，需要各方面的深入研究。

此外，深度学习还有透明性问题。“人工智能识别图片可能比人更准确，但我们不知道为什么这么好；人类棋手下每步棋都有解释，但AI就做不出解释。”无法解释为什么好，就无法避免不好的情况。针对一些人脸识别系统，黑客画上一条简单的线就能迷惑AI，利用很小的干扰造成AI的失误。

倪光南总结道，人工智能带来了一种全新的安全类型，可能在制度设计和方法论上都需要有个说法。

关于AI安全，另一个广为关注的话题是AI是否会造成大规模失业。倪光南认为，机器相对于人类有两个最大的优势。其一是在某些特定领域上打败人类会成为常态。其二就是机器的智能很容易叠加和扩大，而100个人的智慧加起来就未必比一个人更强。

但他相信，在大量简单劳动被人工智能取代之后，依然需要一大批工程师去使用和维护这些机器，人类从而能在新增的工作岗位上发挥更高价值的作用。

专访倪光南：人工智能发展应吸取教训，核心技术不能靠买靠换( 三 )