记住几个经典网络的结构
残差网络结构图
Inception
inception可以代替人工帮你决定卷积层大小和要不要加池化层
基本思想是不需要人为决定使用哪个过滤器，或者是否需要池化，由网络自行决定。你可以给网络添加所有可能的参数值，然后把输出参数拼接，让网络自己学习他需要什么参数。
瓶颈层(bottleneck layer）显著降低了计算量
数据扩充(数据增强)
对图片进行一些变换可以增大数据集。第一种方法是：原始图片大小为256*256，在图片上随机选取224*224的小块进行训练，还可以这些小块进行水平翻转进一步增加数据量。另一种方法是使用PCA改变训练图像RGB通道的像素值(改变训练图像RGB通道的强度(intensity))[此方案名义上得到自然图像的重要特性，也就是说，目标是不随着光照强度和颜色而改变的]