【David Rosenberg课件】信息论

本课件主要内容包括：

1. 信息的测量方式？

2. 香农信息论的内容

3. 熵

4. 编码

5. 期望的码长度

6. 前缀码

7. 数据压缩：最好的前缀码是什么？

8. 香农的信源编码理论

9. 熵、交叉熵与KL散度

10. Jensen不等式

11. Gibbs不等式

12. Gibbs不等式的证明

13. 模型估计的KL散度

14. KL散度估计

完整课件下载地址：

http://page2.dfpan.com/fs/2l9cdje232017249166/

更多精彩文章请关注微信号：