error measure
pointwise就是每次对一个点进行预测。classification指的是分类的方法，对或者错的判断。
pointwise error measure
在in-sample中，如果存在noisy就不能写成f(xn)要写成yn
在out-of-sample中，如果存在noisy就不能写成f(x)，这时的y是按照P抽取的不是确定的。
2种很重要的error measure
左边的0/1 error通常用在分类上；squared error通常用在regression回归上。
Ideal mini-target，在P(y|x)和error的共同基础上再来探讨一下最理想的mini-target。
0/1 error是直接就可以算出来的，很直观地就可以看出来err。
squared error是用几率作为权重进行计算的，具体的计算如下：
当=1的时候，0.2的几率是1，没有犯任何的错误；有0.7的几率会是2，0.7的几率要付出(2-1)的平方的代价；在0.1的几率会是3，0.1的几率要付出(3-1)的平方的代价。所以err=0.2*0+0.7*1+0.1*4=1.1，以此类推分别求出=2和=3的err。
在0/1 error时，最理想的预测y是=2的时候；squared error最理想的预测y是=1.9的时候。
总结：
0/1 error的最理想的y就是在P(y|x)时的y；squared error最理想的一般在中间区域，因为是加权平均值。