正则化与偏差-方差分解

什么是正则化,听起来很抽象,其实很简单:就是一种减少方差的策略

偏差:学习算法的拟合能力:期望值与真实结果的偏离程度
方差:数据扰动造成的影响:换了一个数据集之后,模型的优劣
噪声:
正则化与偏差-方差分解
正则化与偏差-方差分解

正则化本质上,通过降低方差,从而缓解过拟合现象

下图就是极其严重的过拟合
正则化与偏差-方差分解
正则化与偏差-方差分解
L1和L2
正则化与偏差-方差分解
正则化与偏差-方差分解
正则化与偏差-方差分解
正则化与偏差-方差分解
正则化与偏差-方差分解

正则化与偏差-方差分解

相关文章: