首先得先了解计算偏差方差的方法
尤其需要注意的是每次通过不同的模型对测试样本中的1个x进行偏差方差分析,这一点至关重要!
然后我们开始推理为什么下面这个链接中的公式的第三行和第六行中为0
公式链接源地址
下图是公式
首先对于第三行消掉的式子
中的后半部分小括号中的预测期望减去y_d这个东西,完全就是个常数!
因为到这里,期望是多个模型预测值的均值,y_d是当前唯一样本的标签值,那么必然不会随着D(训练集)数据的变化而变化,所以按照期望的计算法则,就可以提到最前面去,然后加减法取期望,那么f(x;D)的期望不就是预测期望吗?相减直接为零,卧槽,我太菜了,就这个简单问题我想了一天。
上面这段理解之后,那么对于第六行也很简单了,提示一下,消掉的中括号中的前一部分和后一部分都应该是常数,但是别忘了这个截图只是针对当前的这一个样本,暂时是不会消掉的,当使用下面这个式子推到,最终结合所有测试样本分析时,那么在噪声期望为0的假设下就会变为0了
我觉得上面这个图写的有问题,应该是Ex(y-y_d) = 0
参考链家
参考链接