出现的问题:随着网络深度的增加,准确率逐渐达到饱和,并迅速下降。

Deep Residual Learning for Image Recognition(ResNet) 阅读

这种问题可以通过引入參差网络来改进。我们期望的误差为H(X),我们将其修改为H(X) = F(X) + X。此外这种改进不仅可以在理论上可行,并且他的实现也比较容易,直接在输入和输出之间增加一条线路,依然可以使用随即剃度下降法来实现。运行时间是线性的。

Deep Residual Learning for Image Recognition(ResNet) 阅读

3. 网络架构

简单网络:

Deep Residual Learning for Image Recognition(ResNet) 阅读

左一为VGG16,左二为更深层次的网络,左三为Resnet。

4. 实验

ImageNet

Deep Residual Learning for Image Recognition(ResNet) 阅读

imagenet top-1的错误率,训练过程如下所示:

Deep Residual Learning for Image Recognition(ResNet) 阅读

其余的都是在各个数据集上的优秀表现,等以后再添加

相关文章: