达摩院 2020 预测:感知智能的“天花板”和认知智能的“野望”( 六 )

Bengio认为 , 对于计算机来说 , 最关键的是处理数据分布中的变化 。 对于System 2来说 , 基本的要素包括:注意力和意识 。 注意力(attention)实际在目前的深度学习模型中已经有大量的实现和探讨 , 比如GAT(图注意力机制)等;意识这部分则比较难 , 其实意识最关键的是定义到怎样的边界 。 在他看来 , 意识先验可以使用稀疏因子图模型来实现 , 这是一个思路 , 实现了因果关系 。 从整体的理论框架方面可以考虑元学习(Meta-learning)、局部修正假设(localized change hypothesis)、因果发现(causal discovery) , 最后架构方面可以考虑如何学习不同对象的操作 。

这是认知智能技术的其中一条技术研究路径 , 杨红霞则概括了四大类将有所突破的关键方向 。

a. 推理系统的建设

基于(神经)符号系统的关系推理

感知系统和认知系统协同推理 System 12

b. 与人类知识融合

融合结构化知识图谱的推理模型

推荐阅读