1.神经网络的结构

深度学习笔记04-卷积神经网络CNN

 

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

注意:下图中的g函数为sigmoid函数

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

总结:因此,当神经网络的层数足够时,可以描述任意区域形状。

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

上图中的符号说明:

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

参数说明如下图:depth为神经元个数,步长为窗口每次移动的距离,填充值是使得上图中的宽度能被整除,所加的值

深度学习笔记04-卷积神经网络CNN

计算方法:每个对应的位置的元素相乘,再加上偏移量b1

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

计算过程:

0*0+0*1+0*0+0*0+0*0+0*0+0*-1+1*1+0*0=1

0*1+0*0+0*1+1*0+0*0+0*1+2*-1+2*0+0*-1=-1

0*-1+0*0+0*-1+1*1+1*0+0*0+0*-0+0*1+0*-1=1

1+(-1)+1+1=2

注意:最后一个1是b0的值

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

激励层选型经验总结:

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

取得窗口的最大值。

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

GPU:K80

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

深度学习笔记04-卷积神经网络CNN

相关文章: