1.池化层的作用

             除了卷积层,卷积网络也经常使用池化层,来缩减模型大小,提高计算速度;同时提高所提取特征的鲁棒性。

  

2.池化层的超级参数(Haperparameters)

             池化层的超级参数包:

                      f:filter size

                      s:stride

              常用的超级参数值为f=2;s=2。其效果相当于高度和和宽度缩减一半。当然也可能用到padding,但是这种情况是极其少见的。

              Max or Average pooling

             * 池化过程中没有需要学习的参数,执行反向传播时,反向传播没有参数适用于最大池化

             * 最大池化只是计算神经网络某一层的静态属性,没有什么需要学习的,只是静态属性。

               

池化层举例:

              -最大池化    效率很高,有一组超级参数(但是参数不需要学习)

e.g1

             卷积神经网络5-池化层及全连接

e.g2

            卷积神经网络5-池化层及全连接

           计算最大池化的方法:就是分别对每个信道执行上面的计算操作

          -平均池化

           顾名思义,就是计算过滤器里的平均值

           最大池化要比平均池化更常用,但也有例外,就是深度很深的神经网络,你可以用平均池化来分解规模为7x7x1000的网络的表示层。但在神经网络中最大池化要比平均池化用的更多。

全连接层示例

            引入:一类卷积是一个卷积层和一个池化层作为一层;另一类卷积是吧卷积层作为一层,而池化层座位另一层。人们在计算神经网络有多少层时,通常只是统计具有权重的层和参数的层,因为池化层没有参数,只是有超级参数。当然,这只是两种不同的标记术语。

              卷积神经网络5-池化层及全连接

            ·· layerⅠ包含一个卷积层和一个池化层

相关文章: