LeNet
输出层(OUTPUT)
LeNet中的输出层由欧式径向基(RBF)函数单元组成,每个类别对应一个径向基函数单元,每个输出RBF单元计算输入向量和该类别标记向量之间的欧式距离。距离越远,RBF输出越大。
AlexNet(2012)
AlexNet之所以达到很好的效果,原因在于:
1. 在Convolution Layer 和 fully connected layer过后使用了非线性**函数ReLU
2. 在全连接层用了Dropout,可以防止过拟合
3. 数据量很大
https://blog.csdn.net/chaipp0607/article/details/72847422