7 大类卷积神经网络（CNN）创新综述( 四 )_深度卷积神经网络（CNN）是一种特殊类

另一方面，谷歌团队引入了一个非常著名的关于拆分、转换和合并的概念，称为 Inception 模块。初始块第一次使用了层内分支的概念，允许在不同空间尺度上提取特征。 2015 年，为了训练深度 CNN ， Resnet 引入的残差连接概念变得很有名，并且，后来的大多数网络像 Inception-ResNet ， WideResNet ， ResNext 等都在使用它。与此类似，一些像 WideResnet、Pyramidal Nets、Xception 这样的架构都引入了多层转换的概念，通过额外的基数和增加的宽度来实现。因此，研究的重点从参数优化和连接再次调整，转向了网络架构设计（层结构）。这引发了许多像通道提升、空间和通道利用、基于注意力的信息处理等新的架构概念。

本文结构如下：

图 1：文章结构