DPCM预测误差系数推导

DPCM简介

在如图所示的DPCM预测系统中，xk为输入信号，ek为预测误差信号。

这是利用信息前后关联性的编码方法。

其中预测误差为：
$e(k)=x(k)-x'(k-1)$e(k)=x(k)−x′(k−1)
我们用最小均方误差MSE来描述误差的大小：
$MSE=E[e(k)^2]=E[d^2]$MSE=E[e(k)2]=E[d2]
信噪比SNR：
$SNR=\frac{E[s(k)^2]}{E[d(k)^2]}$SNR=E[d(k)2]E[s(k)2]​

预测系数

为了性能（SNR）当然误差越小越好，即MSE越小越好。为了达到这个效果，需要设置一组预测系数a。

预测系数用来确定x’(k-1)的预测权重.

加上预测系数后的MSE为：
$E[d^2]=E[s(k)-\sum_{i=1}^{N}{s(k-i)^2}]$E[d2]=E[s(k)−i=1∑N​s(k−i)2]
为了使最小均方误差最小，因为显然这是一个下凹形函数，使其一阶偏导为0：
$\frac{\partial E[d^2]}{\partial a_i}=0,\quad i=1,2,...,N$∂ai​∂E[d2]​=0,i=1,2,...,N
就可以求出a，具体推导方法如下，涉及到了自相关函数的知识。

可以看到，最后结果可以用b=Ax表示，即经典的最小二乘法表达形式。预测系数a即式中的x。
具体相关方法可移步此文章https://blog.csdn.net/weixin_43175007/article/details/106164569（这两篇文章是同一次作业）
其中ADPCM就用到了梯度下降法。