Transposed Convolution, Fractionally Strided Convolution or Deconvolution

原文:https://buptldy.github.io/2016/10/29/2016-10-29-deconv/


卷积与反卷积(转置卷积)



反卷积(Deconvolution)的概念第一次出现是Zeiler在2010年发表的论文Deconvolutional networks中,但是并没有指定反卷积这个名字,反卷积这个术语正式的使用是在其之后的工作中(Adaptive deconvolutional networks for mid and high level feature learning)。随着反卷积在神经网络可视化上的成功应用,其被越来越多的工作所采纳比如:场景分割、生成模型等。其中反卷积(Deconvolution)也有很多其他的叫法,比如:Transposed Convolution,Fractional Strided Convolution等等。

这篇文章的目的主要有两方面:
1. 解释卷积层和反卷积层之间的关系;
2. 弄清楚反卷积层输入特征大小和输出特征大小之间的关系。

## 卷积层

卷积层大家应该都很熟悉了,为了方便说明,定义如下:
- 二维的离散卷积(N=2N=2

卷积与反卷积(转置卷积)

下图表示参数为 (i=6,k=3,s=2,p=1)(i=6,k=3,s=2,p=1)


卷积与反卷积(转置卷积)

从上述两个例子我们可以总结出卷积层输入特征与输出特征尺寸和卷积核参数的关系为:

o=i+2pks+1.o=⌊i+2p−ks⌋+1.


卷积与反卷积(转置卷积)

对于上述卷积运算,我们把上图所示的3×3卷积核展成一个如下所示的[4,16]的稀疏矩阵 CC


卷积与反卷积(转置卷积)

Fractionally Strided Convolution

上面也提到过反卷积有时候也被叫做Fractionally Strided Convolution,翻译过来大概意思就是小数步长的卷积。对于步长 s>1s>1


卷积与反卷积(转置卷积)

参考

conv_arithmetic

Is the deconvolution layer the same as a convolutional layer?

</div>

相关文章: