第六章——信道模型和信道容量

1. 四种信道模型

1.1 二进制对称信道 BSC

离散二进制输入，离散二进制输出

1.2 离散无记忆信道 DMC

离散q进制输入，离散Q进制输出

1.3离散输入、连续输出

由于噪声的影响且在输出端不量化，这样的输出就是连续的，如离散时间AWGN信道

1.4 波形信道

输入是波形，输出也是波形， 例如波形AWGN信道

2. 信道容量

2.1互信息与平均互信息

同样，对于指定的信道，$p(y_i|x_j)$p(yi​∣xj​)是一定的，$I(X,Y)$I(X,Y)就取决于输入符号概率$p(x_j)$p(xj​)

2.2 信道容量

香农公式仅适用于波形AWGN信道的信道容量，即平均互信息表达式：
假设：

推导：



互信息是互信息，信道容量只有发送信息是高斯信号等概的时候才能叫信道容量。