machine learning(12) -- classification: One-vs-all classfication

• Multiclass classification例子： 
  • 邮箱的邮件的分类： 工作邮件，私人邮件，朋友的邮件，兴趣爱好的邮件
  • 医学诊断： 没有生病，患有流感，患有普通感冒
  • 天气： 晴天，兩，多云等

 

• One-vs-all classfication = one-vs-rest :

             

            每一次将一个class分出来，共构建3个classifiers

            h_θ⁽ⁱ⁾(x) = P(y=i|x;θ)    (i=1;2;3)

            train a logistic regression classifier h_θ⁽ⁱ⁾(x) for each class i to predict the probability that y=i.

• 新输入x,如何判断属于哪个类

         

        如有三个类，则x属于3个classifier中使h_θ⁽ⁱ⁾(x)取最大值的那个类(i的取值)