即插即用新卷积:提升CNN性能、速度翻倍( 四 )

论文:Drop an Octave: Reducing Spatial Redundancy in Convolutional Neural Networks with Octave Convolution

即插即用新卷积:提升CNN性能、速度翻倍

图5/17

论文地址:https://export.arxiv.org/pdf/1904.05049

第三方复现结果:https://github.com/terrychenism/OctaveConv

在自然图像中,信息以不同的频率传输,其中较高频率通常以细节进行编码,而较低频率通常以总体结构进行编码。同样地,一个卷积层的输出特征图也可视为不同频率的信息混合。

在本文中,研究人员提出基于频率对混合特征图进行分解,并设计了一种新的 Octave 卷积(OctConv)操作,以存储和处理较低空间分辨率下空间变化「较慢」的特征图,从而降低内存和计算成本。

与现有多尺度方法不同,OctConv 是一种单一、通用和即插即用的卷积单元,可以直接代替(普通)卷积,而无需对网络架构进行任何调整。OctConv 与那些用于构建更优拓扑或者减少分组或深度卷积中通道冗余的方法是正交和互补的。

推荐阅读