lecture 2 -条件概率和贝叶斯

lecture 2 -条件概率和贝叶斯

1.概述

在概率论中，常常用到三个最基本的工具：

• multiplication rule (乘法法则)。
• Total probability (全概率)。
• Bayes’ rule( $\rightarrow$→inference)。

上述的三个工具用于各种概率复杂的场合，后续概率论的学习也是在这三个工具的基础上变换来描述现实世界。

2.条件概率

条件概率的definition: $p(A|B)= $"the probability of A, given that B occured"​.

怎么的来的，先使用最基本的定义描述，即在B已经发生的情况下，去计算A发生的概率，可以描述如下：

NOTE：

条件概率和普通概率（ordinary probability）拥有共同的性质。
$p(A\cup B |C)=\frac{p((A\cup B)\cap C))}{p(C)}=\frac{p(AC\cup BC )}{p(C)}$p(A∪B∣C)=p(C)p((A∪B)∩C))​=p(C)p(AC∪BC)​
如果$A\cap C= \varnothing $(disjoint enents)，那么$(disjointenents)，那么p(AC\cup BC)=p(AC)+p(BC)$

利用条件概率的乘法法则：
$p(AC)=p(A|C)p(c)=p(C|A)p(A)$p(AC)=p(A∣C)p(c)=p(C∣A)p(A)

则公式
$p(A\cup B |C)==\frac{p(AC\cup BC )}{p(C)}=p(A|C)+p(B|C)$p(A∪B∣C)==p(C)p(AC∪BC)​=p(A∣C)+p(B∣C)

3.radar example

举例子说明条件概率在现实生活（real-world）中的应用。怎么样从这个例子中得出the basic elements of the model.

• 定义事件A为飞机出现在空中。
• 定义事件B为雷达探测探测到飞机。

事件A有两种可能性（possibilities）：A occurs or the complement of A occures. 对这两种事件根据先验经验或者其他的知识（knowledge）计算出事件A的概率，同样给出相对应的条件概率，以序列的形式去描述样本空间。

则可以计算出：
$P(AB)=P(A)P(B|A)$P(AB)=P(A)P(B∣A)
上述的这个公式为乘法法则。

如何去计算出$p(B)$p(B)
$p(B)=p(\Omega\cap B)=p((A\cup A^c)\cap B)=p(A\cap B)+p(A^c\cap B)\\ = \sum_{i} A_i p(B|A_i)$p(B)=p(Ω∩B)=p((A∪Ac)∩B)=p(A∩B)+p(Ac∩B)=i∑​Ai​p(B∣Ai​)
上述的这个公式可以计算出B的概率。

思考如何利用上面的知识去计算出$ p(A|B)$?

利用条件概率则有：
$p(A|B)=\frac{p(A \cup B)}{p(B)}$p(A∣B)=p(B)p(A∪B)​
根据前面的公式的描述，可以计算出上面的公式。

上面的三个公式构成了概率论中的最基本的三个公式，即乘法法则，全概率（total probability theorem），贝叶斯模型。

4.Bayes’ rule 和 inference

1.model of the world under each possible scenarios $A_i $ ：$p (B|A_i)$p(B∣Ai​)

now , revese our object , we want to know the probability of $A_i$Ai​ from the observed B.

2. draw conclusions about cuses

5.总结

6.参考

[1]https://ocw.mit.edu/resources/res-6-012-introduction-to-probability-spring-2018/part-i-the-fundamentals/MITRES_6_012S18_L02.pdf

关注微信公众号：不爱学习的树懒，分享平时的学习笔记。