OpenAI Five 亲测报告:技术强悍但有天大弱点!(11)

但是 , 有些应用场景连训练生成模型的数据都凑不够 。 因此 , 由人类儿童学习方式启发的迁移学习诞生了 。

迁移学习是深度学习领域为了解决其海量数据需求而开发的一种手段 。 其基础在于先用一个有着大量训练数据的场景训练模型 。 完成训练后 , 该模型的特征将适用于所有跟这个应用场景相关或类似的具体场景 。

换句话说 , 这个模型“学会”的特征可以被“迁移”到另外一个应用场景 。 比如用具有 1400 万张照片的 ImageNet 去训练一个图像识别模型(通用特征) , 然后再训练这个模型去具体地识别医疗成像中的肿瘤(具体应用) 。

但迁移学习的基础也限制了它的应用场景:如果一个任务的所有相关任务都缺少数据(比如打 Dota 2) , 就无法训练迁移学习所需的“通用模型”(生成模型因此也不适用) 。 这也是将深度学习扩散到新的(少数据)应用领域时所面临的最大挑战 。

在计算机视觉任务领域 , 为了减少对训练数据的依赖 , 研究人员正在努力研发单样本学习 。 单样本 , 指的是借助元学习(Meta Learning)技术的支持 , 只用展示一张图片或者一段演示 , 就可以让 AI 认识某个物品 , 学会某种技能 , 从而具备一种“触类旁通”的能力 。

推荐阅读