EffNet: An Efficient Structure for Convolutional Neural Networks

EffeNet对MoblieNet网络进行改进,主要思想为:

首先,将MoblieNet的3×3的depthwise convolution层分解为两个3×1,1×3depthwise convolution层.这样便可以在第一层之后就采用pool操作,从而减少第二层的计算量.
EffNet: An Efficient Structure for Convolutional Neural Networks

如图1所示,在第一个卷积层之后,使用1×2 max pooling操作.在第二个卷积层之后,用2×1,stride=1的卷积核代替1×1pointwise convolution.这样计算量相同,但是可以有更高的精度.

作者试验了MobileNet,ShuffleNet,EffNet三种模块的分类网络,模型结构参数如下,

EffNet: An Efficient Structure for Convolutional Neural Networks

在Cifar10数据分类精度为,

EffNet: An Efficient Structure for Convolutional Neural Networks
EffNet large参数量基本与Baseline相同,精度提高接近8%.