接受-拒绝采样算法详细证明

Algorithm 1.1 接受-拒绝采样算法
1. 目标分布 ，分布 和常数 ，通过对 的采样实现对 采样，满足：

• 对 采样比较容易；
• 的形状接近 ，且 ， ，即保证

2. 采样过程

• 产生样本 ，和
• 若，则接受样本
• 则接受的样本服从分布

3. 证明过程

等价于

• 产生样本 ，和
• ，若，则接受

证明：

• 的概率密度函数为

        

• 的概率密度函数为

        

        

        

• 联合概率密度函数为

        

• 按接受-拒绝采样法抽出的随机数的概率：

        

       

        即的概率密度函数为

Algorithm 1.2 直接采样法

1. 直接采样的思想是，通过对均匀分布采样，实现对任意分布的采样。因为均匀分布采样好猜，我们想要的分布采样不好采，那就采取一定的策略通过简单采取求复杂采样。

2. 假设服从某项分布，其累积分布函数CDF为，有样本，我们令 ，即 ，结果即为对分布的采样。

• 产生样本
• 令 ，其中为的累积分布函数CDF
• 计算
• 结果即为对分布的采样

3. 示例

        

        

        

        

        

4. 证明