简单概率分类

Ref: 逻辑回归与朴素贝叶斯有什么区别?

Ref: 机器学习笔记——逻辑回归(对数几率回归)和朴素贝叶斯分类器的对比

首先,搞清楚一个问题。

naive bayes 能分类;逻辑回归也能分类;两者解决问题的角度有何不同?

 

优化目标不同

逻辑回归:优化的后验likelihood [ML] Bayesian Logistic Regression 【这个好理解】

Naive Bayes:优化的是联合likelihood [ML] Bayesian Logistic Regression

 

[ML] Bayesian Logistic Regression

 

方法也不同

这是两套完全不同的方法:

    • 逻辑回归得到的是判别模型
    • 朴素贝叶斯得到的则是生成模型【假设iid,但往往很难成立

 

对 “朴素贝叶斯” 理解不透彻

Goto: [Scikit-learn] 1.9 Naive Bayes

 

 

 

贝叶斯逻辑回归

Ref: 通过贝叶斯logistic回归看拉普拉斯近似

[ML] Bayesian Logistic Regression

 

/* implement */

 

 

 

 

 

 

  

 

相关文章: