定义:

信息熵的定义和简单计算

 

 p(x)指的是离散型随机变量的各个情况的概率

 

例子:

信息熵的定义和简单计算

 

 信息熵的定义和简单计算

 

 对数的底数为2---如果单位是比特的话

 

条件熵(期望熵)和信息增益:

信息熵的定义和简单计算

 

 信息熵的定义和简单计算

 

 注意这个条件是(是否阴天

 

 信息增益则是总的熵减去条件熵

 

相关文章:

  • 2021-07-31
  • 2021-12-30
  • 2021-10-07
  • 2022-12-23
  • 2021-12-03
  • 2021-12-14
  • 2021-10-03
猜你喜欢
  • 2021-09-19
  • 2022-12-23
  • 2021-10-01
  • 2021-09-15
  • 2021-09-10
  • 2021-09-11
  • 2021-06-06
相关资源
相似解决方案