bias and variance 的简单理解

假设有下列模型，我们需要选择其中一个较为合适的模型作为最终的预测模型。

我们知道随着维度的增加其曲线也更加复杂，能够更好地拟合训练集上的数据，此时bias（偏差）很小，但是很可能在预测时表现却不尽如人意（过度拟合）。

比较左图和右图，相较而言中图variance（方差）更小，而右图bias（偏差）更小。但是中图更能够代表数据趋势，而右图为了拟合数据，在某些地方进行了更大的妥协。左图明显bias（偏差）和variance（方差）都很大。