院士邬贺铨:人工智能的魅力是“永远在路上”( 七 )

人工智能可以检测肿瘤,但医院还不敢这么用,因为人工智能本身可以告诉你应该做什么,但它不会告诉你为什么,比如人工智能诊断一个病人,最后得出结论“锯掉一条腿”,但不告诉你为什么,那医院敢锯掉腿吗?

还有很多功能是人工智能难以胜任的,神经网络是以输入为导向的算法,首先的前提是大量数据,而且数据要比较准确,如果受了干扰他就很难,医生受干扰可能会产生很多错误,比如北加州一个组织(美国公民自由联盟)利用亚马逊面部识别算法把美国535位国会议员的照片和美国警察局掌握的2.5万名罪犯照片进行比对,发现28个议员被当成了罪犯。分类数据终美国的数据严重偏向白人男性,所以黑皮肤的可能就容易被错认。

目前机器学习还有很多不足,图灵奖的获奖者说,目前机器学习只是曲线的拟合,一个诺贝尔奖经济学奖得主(Judea Pear)说“人工智能不过是统计学”,也就是说目前还是有很多不够的地方。

刚才我用的两张图映射的猫和狗的区别有个曲线,但只要拟合的地方稍微错一点,可能就会发生错误。比如本来是熊猫,在照片上加上一些噪音,机器就可能识别成长臂猿,所以人工智能识别目前来讲还是比较娇气的。

推荐阅读