过拟合、欠拟合及其解决方案

学习笔记

动手学DL|过拟合、欠拟合+梯度消失、梯度爆炸+卷积神经网络基础

习题整理

动手学DL|过拟合、欠拟合+梯度消失、梯度爆炸+卷积神经网络基础
错题原因:没有理解欠拟合和过拟合的深刻含义。

过拟合是指训练误差达到一个较低的水平,而泛化误差依然较大。
欠拟合是指训练误差和泛化误差都不能达到一个较低的水平。
发生欠拟合的时候在训练集上训练误差不能达到一个比较低的水平,所以过拟合和欠拟合不可能同时发生。

动手学DL|过拟合、欠拟合+梯度消失、梯度爆炸+卷积神经网络基础

L2范数正则化是用来应对过拟合的。

梯度消失、梯度爆炸

学习笔记

动手学DL|过拟合、欠拟合+梯度消失、梯度爆炸+卷积神经网络基础

习题整理

动手学DL|过拟合、欠拟合+梯度消失、梯度爆炸+卷积神经网络基础

动手学DL|过拟合、欠拟合+梯度消失、梯度爆炸+卷积神经网络基础

卷积神经网络基础

学习笔记

待续

习题整理

待续

相关文章: