朴素贝叶斯密度估计器

【问题标题】：Naive Bayes density estimator朴素贝叶斯密度估计器
【发布时间】：2016-10-05 05:23:13
【问题描述】：

我目前正在学习机器学习考试，经过大量谷歌搜索和研究幻灯片后，我仍然不完全确定朴素贝叶斯密度估计器的工作原理。有人可以向我解释一下吗？这门课程还是很基础的，所以如果可能的话，请保持简单:)

这是我被困在旧考试中的一个问题：

在表 1 上为“Win”类训练的朴素贝叶斯密度估计器会为案例 (x1 = I, x3 = C) 预测什么？

表 1：

答案显然是：(3/5) * (1/5) = 0,12。但是 3/5 和 1/5 是从哪里来的呢？

感谢您的帮助！

【问题讨论】：

欢迎来到 SO。这个问题与编程无关——我建议在 Cross Validated 上发帖。

标签： machine-learning naivebayes probability-density

【解决方案1】：

朴素贝叶斯使用两个假设：

给定一个类，特征是独立的
每个特征都来自一些已知的先验密度族

它给了我们什么？首先让我们使用第一个假设

P(x1=I, x3=C | y = Win) = P(x1=I | y=Win) P(x3=C | y=Win)

现在我们必须计算每个“小”概率，我们在这里使用条件概率的定义和朴素的频率论方法，通过估计

               P(x=A, y=B)   # samples having x=A and y=B
P(x=A | y=B) = ----------- = ----------------------------
                  P(y=B)         # samples having y=B

\________________________/
   definition of P(a|b)

               \________________________________________/
                    estimator for the assumed family

因此

P(x1=I | y=Win) = 3/5
P(x3=C | y=Win) = 1/5

【讨论】：