即插即用新卷积:提升CNN性能、速度翻倍

选自arXiv

作者:Yunpeng Chen等

机器之心编译

近期,来自 Facebook AI、新加坡国立大学、奇虎 360 的研究人员联合提出了一种新的卷积操作 (OctConv),用于替代现有的通用卷积。这款新卷积不仅占用更少的内存和计算,还有助于提高性能。

卷积神经网络

(CNN)在很多计算机视觉任务中都取得了卓越的成就,然而高准确率的背后,却是很高的冗余度和不可忽视的计算开销。

即插即用新卷积:提升CNN性能、速度翻倍

图1/17

图 1. 现有的卷积操作(1x1 卷积)

对于一个卷积操作而言(图 1),每个位置都是由一个 D 维特征向量 表示,而特征提取,则是通过滑动卷积,对每个位置分别处理得到对应的特征。

但是,这种为每个位置都分别存储一份特征表达,并分别一一处理的策略明显是不合理的。因为,对于图像而言,相邻位置往往描述的是同一个语义,从而共享一部分特征。

推荐阅读