1. 常规卷积

【DL基础】深度可分离卷积

 

 

2. 分组卷积

 【DL基础】深度可分离卷积

 

 

2. 深度可分离卷积 

Depthwise Convolution + Pointwise Convolution

2.1  Depthwise Convolution

【DL基础】深度可分离卷积

 

 

2.2  Pointwise Convolution

【DL基础】深度可分离卷积

 

 

Depthwise(DW)卷积与Pointwise(PW)卷积,合起来被称作Depthwise Separable Convolution(参见Google的Xception),该结构和常规卷积操作类似,可用来提取特征,但相比于常规卷积操作,其参数量和运算成本较低。所以在一些轻量级网络中会碰到这种结构如MobileNet。

 Depthwise Convolution完成后的Feature map数量与输入层的depth相同,但是这种运算对输入层的每个channel独立进行卷积运算后就结束了,没有有效的利用不同map在相同空间位置上的信息。因此需要增加另外一步操作来将这些map进行组合生成新的Feature map,即接下来的Pointwise Convolution。

Pointwise Convolution的运算与常规卷积运算非常相似,不同之处在于卷积核的尺寸为 1×1×M,M为上一层的depth。所以这里的卷积运算会将上一步的map在深度方向上进行加权组合,生成新的Feature map。有几个Filter就有几个Feature map。

参考

1. 卷积神经网络中的Separable Convolution

2. 深度可分离卷积_知乎

3. Xception: Deep Learning with Depthwise Separable Convolutions, François Chollet

4. MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

相关文章:

  • 2021-08-22
  • 2021-05-24
  • 2021-09-24
  • 2022-12-23
  • 2021-08-10
  • 2021-12-16
  • 2021-09-29
  • 2021-10-29
猜你喜欢
  • 2021-05-30
  • 2021-05-16
  • 2021-12-17
  • 2021-10-19
相关资源
相似解决方案