1、人工神经网络：
2、全连接网络：
在多层神经网络中，第n层的每一个神经元与第n+1层神经元相互连接。
3、在神经网络中，输入层中有（x1,x2,x3）---->通过z=w1*x1+b1,进而通过**函数（将非线性特性引入到函数中），如**函数为sigmoid函数，所以最后输出为a=f(z)（前向传播和反向传播）
4、
CNN
一个卷积神经网络基本包括卷积层、池化层和输出层。
（1）卷积和卷积核
卷积操作就是输入数据中的不同数据窗口的数据和卷积核做内积操作，卷积核实质是权重矩阵，通过卷积操作，提取输入图像中的特征。
（2）步长： 步长分为横向步长和纵向步长，步长是多少就表示一次卷积操作之后卷积核移动的距离。知道步长的概念了，我们就可以去计算一下根据输入大小，卷积核大小，我们得到的输出的大小。如图所示
填充：”SAME”，“VALID”
VALID:
其中ceil为向上取整,w是宽方向，h是长方向, I,O,k,s分别代表输入、输出、卷积核和步长。