技术|认知AI的兴起：2025年AI将会发生质的飞跃( 二 )
文章图片
图｜基于深度学习的语言模型中参数数量呈指数级增长（来源：microsoft）
虽然剪枝（pruning）、稀疏性（sparsity）、压缩（compression）、蒸馏（distillation）和图神经网络（GNN）等技术可以提高模型效率 ， 但最终也同时产生了增量改进 。 在不影响结果的前提下 ， 将模型大小降低几个数量级 ， 可能需要对捕获和表示信息本身的方法以及深度学习模型中的学习能力方面进行更根本的改变 。 此外 ， 持续性进步也需要更具计算效率的深度学习方法或者转向其他机器学习方法 。 现在 ， 一类具有前景的人工智能系统正通过在辅助信息库中进行检索来代替大量事实和数据的嵌入 ， 从而迅速受到人们的青睐 。
与此同时 ， 统计机器学习方法基于这样的假设 —— 训练样本的分布代表了推理过程中必须处理的内容 ， 在现实生活的使用中存在重大缺陷 。 尤其在遇到训练数据集采样稀疏 ， 甚至缺乏样本的情况时 ， 深度学习模型就会受到挑战 。
除此之外 ， 迁移学习和小样本 / 零样本推理方面取得的结果也不尽人意 。 模型的低效扩展性使得人工智能无法扩展到数据集和数据科学家缺乏的许多领域 。 此外 ， 深度学习还非常容易受到数据变化的影响 ， 从而产生低信度分类 ， 但这一问题可以通过提高模型的稳健性和可扩展性得到解决 。
最后 ， 在大多数情况下 ， 神经网络无法正确提供认知 ， 推理和可解释性 。 深度学习缺乏认知机制 ， 无法进行抽象、上下文语境、因果关系、可解释性和可理解性的推理 。
下一阶段：认知人工智能
人工智能有望达到人类理解水平 。 依靠 Daniel Kahneman 在《快思慢想》（Thinking, Fast and Slow）一书中定义的范式 ， Yoshua Bengio 将当代深度学习的功能等同于他所描述的 “系统 1” 的特点 —— 直觉的、快速的、无意识的、习惯性并完全处于自主控制状态 。 与此相反 ， 他指出 ， 人工智能系统的下一个挑战在于实现 “系统 2” 的功能 —— 缓慢的、有逻辑的、有序列的、有意识和算法化 ， 例如实现计划和推理所需的功能 。
文章图片
（来源：Pixabay）
Francois Chollet 以类似的方式在广泛概括的基础上描述了人工智能发展中的新兴阶段（“Flexible AI”） ， 它能够适应广泛领域内的未知事件 。 这两个特征都与 DARPA（美国国防部高级研究计划局）的 “人工智能的第三次浪潮” 的内容一致 ， 其特征是语境顺应（contextual adaptation）、抽象、推理和可解释性 。 实现这些功能的一种可能途径是将深度学习与符号推理和深度知识结合起来 。 下面 ， 我将使用术语 “认知人工智能”（Cognitive AI）来指代人工智能的这一新阶段 。
推荐阅读
- 生物|两项国家标准发布实施 为畜禽生物育种提供技术参考
- 创事记|圈层社交的高光与隐忧：小天才电话手表会跑偏吗？
- 年味|冬奥会闭环的年味
- 新浪汽车|特斯拉回应ModelY起火：被旁边充电中的网约车引燃
- 斯达|汉威科技：目前能斯达的电子皮肤已有小批量商用
- IT|供应链受阻及检疫导致人手短缺 全球11月航空货运的增长大幅放缓
- 架构|一“融”解千愁，SASE因何成为未来网络安全的新范式？
- 市场|圈层社交的高光与隐忧：小天才电话手表真能挑战腾讯？
- 巨头|“假装”：硅谷科技巨头不愿言说的思想起源
- 市场|圈层社交的高光与隐忧：小天才电话手表会跑偏吗？