王维嘉:暗知识——机器认知的颠覆( 七 )

社会积分系统。如果说今天摄象头布满了所有地方,那每个人从早上起来,从小到大所有的行为都在摄象头下,最后摄象头就根据你的行为,给你算出社会积分。你说我表现这么好,凭什么打这么低的分?不知道。这就是未来我们将遇到的重大问题,不可解释的问题。

再如诺曼底登陆,为什么在诺曼底而不是卡拉斯登陆?机器算出来说要在卡拉斯登陆,那么盟军司令听不听?听它的可能就打胜仗,不听它的就打败仗。但是我们根本不懂为什么要这样做?未来一个重大的决定很可能就是由机器做出来的,你可以选择不听机器的,但是你会失败。但是为什么呢?不知道。因为是暗知识。这些生死攸关的决定,到底敢不敢交给机器来做?

所以,人类历史上第一次被一脚踢出了知识获取的回路。过去所谓知识就是人去学东西,现在机器自己学,和我们人没有什么关系了,我们人一边儿凉快去了,我们成了“吃瓜群众“了。

因此,我们正面临着一个新时代的到来,它不仅仅是AI技术的改进,而且从哲学、从认识论上给我们提出了根本的挑战,也就是说,机器认知时代到来。这个时代无所不在的传感器在记录着所有的物理量——温度,气温,每个人的活动,血液、心脏的跳动……然后将这些数据通过5G网络传到云端,机器再把万世万物当中隐蔽的相关性找出,并凭借相关性去做事,去改进我们生活或者是破坏我们的生活,去优化生产或者进行互相残杀。

推荐阅读