随机过程

随机过程

1 概率论基础

（1）随机变量函数的概率密度

对于任意的单调函数$g(x)$g(x),都有
$f_Y(y)=f_X(x)|J|_{x=g^{-1}(y)} (J=\frac{dx}{dy})$fY​(y)=fX​(x)∣J∣x=g−1(y)​(J=dydx​)
对于非单调函数，可以根据单调性分段。

---

例: 考虑一个平方律检波的例子，假定输入输出的关系为
$Y=bX^2$Y=bX2
求Y的概率密度
解: 由于$Y$Y的值不可能为负，故$y&lt;0$y<0时，$f_Y(y)=0$fY​(y)=0。若$y&gt;0$y>0，这是对于任意的$y$y，有两个$x$x值与之对应，即
$x_{1}=\sqrt{y / b}, \quad x_{2}=-\sqrt{y / b}$x1​=y/b​,x2​=−y/b​\ 由于$J_{1}=\frac{\mathrm{d} x_{1}}{\mathrm{d} y}=\frac{1}{2 \sqrt{b y}}, J_{2}=\frac{\mathrm{d} x_{2}}{\mathrm{d} y}=-\frac{1}{2 \sqrt{b y}}$J1​=dydx1​​=2by​1​,J2​=dydx2​​=−2by​1​，因此
$f_{Y}(y)=\frac{1}{2 \sqrt{b y}}\left[f_{x}(\sqrt{y / b})+f_{X}(-\sqrt{y / b})\right] \quad(y&gt;0)$fY​(y)=2by​1​[fx​(y/b​)+fX​(−y/b​)](y>0)

---

（2）基本公式

$EX=\int_{-\infty}^{+\infty} x f(x) \mathrm{d} x$EX=∫−∞+∞​xf(x)dx
$DX=E(X-EX)=EX^2-E^2X$DX=E(X−EX)=EX2−E2X
$\operatorname{Cov}(X, Y)=E[(X-EX)(Y-EY)]=E[X Y]-EXEY$Cov(X,Y)=E[(X−EX)(Y−EY)]=E[XY]−EXEY
$\rho_{X Y}=\frac{\operatorname{Cov}(X, Y)}{\sqrt{D(X)} \sqrt{D(Y)}}$ρXY​=D(X)​D(Y)​Cov(X,Y)​

2 随机过程

(1)一维概率分布

$F_{x}(x, t)=P(X(t) \leqslant x\}$Fx​(x,t)=P(X(t)⩽x}
如果$F_X(x,t)$FX​(x,t)的一阶导数存在，则定义
$f_{x}(x, t)=\frac{\partial F_{X}(x, t)}{\partial x}$fx​(x,t)=∂x∂FX​(x,t)​
为随机过程$X(t)$X(t)的一维概率密度

(2)二维概率分布

对于任意的时刻$t_1,t_2$t1​,t2​，以及任意两个实数$x_1,x_2$x1​,x2​，定义
$F_{x}\left(x_{1}, x_{2}, t_{1}, t_{2}\right)=P\left\{X\left(t_{1}\right) \leqslant x_{1}, X\left(t_{2}\right) \leqslant x_{2}\right\rangle$Fx​(x1​,x2​,t1​,t2​)=P{X(t1​)⩽x1​,X(t2​)⩽x2​⟩
为随机过程$X(t)$X(t)的二维概率分布，如果$F_{X}\left(x_{1}, x_{2}, t_{1}, t_{2}\right)$FX​(x1​,x2​,t1​,t2​)对$x_1,x_2$x1​,x2​的偏导数存在，则定义
$f_{x}\left(x_{1}, x_{2}, t_{1}, t_{2}\right)=\frac{\partial^{2} F_{x}\left(x_{1}, x_{2}, t_{1}, t_{2}\right)}{\partial x_{1} \partial x_{z}}$fx​(x1​,x2​,t1​,t2​)=∂x1​∂xz​∂2Fx​(x1​,x2​,t1​,t2​)​
为随机过程$X(t)$X(t)的二维概率密度。

(3)随机过程的数字特征

均值

$m_{X}(t)=E[X(t)]=\int_{-\infty}^{+\infty} x f_{x}(x, t) \mathrm{d} x$mX​(t)=E[X(t)]=∫−∞+∞​xfx​(x,t)dx

方差

$\sigma_{X}^{2}(t)=E\left\{\left[X(t)-m_{X}(t)\right]^{2}\right\}=E\left[X^{2}(t)\right]-m_{X}^{2}(t)$σX2​(t)=E{[X(t)−mX​(t)]2}=E[X2(t)]−mX2​(t)

自相关函数与协方差函数

对于任意两个时刻$t_1,t_2$t1​,t2​，定义

$R_{X}\left(t_{1}, t_{2}\right)=E\left[X\left(t_{1}\right) X\left(t_{2}\right)\right]=\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} x_{1} x_{2} f\left(x_{1}, x_{2}, t_{1}, t_{2}\right) \mathrm{d} x_{1} \mathrm{d} x_{2}$RX​(t1​,t2​)=E[X(t1​)X(t2​)]=∫−∞+∞​∫−∞+∞​x1​x2​f(x1​,x2​,t1​,t2​)dx1​dx2​
为随机过程$X(t)$X(t)的自相关函数。自相关就是函数和函数本身的相关性，当函数中有周期性分量的时候，自相关函数的极大值能够很好的体现这种周期性
相关性的描述除了用相关函数外，有时也用协方差函数。定义
$K_{x}\left(t_{1}, t_{2}\right)=E\left\{\left[X\left(t_{1}\right)-m_{X}\left(t_{1}\right)\right]\left[X\left(t_{2}\right)-m_{X}\left(t_{2}\right)\right]\right\}$Kx​(t1​,t2​)=E{[X(t1​)−mX​(t1​)][X(t2​)−mX​(t2​)]}
为随机过程$X(t)$X(t)的协方差函数，协方差函数也可以表示为
$\begin{aligned} K_{X}\left(t_{1}, t_{2}\right) &amp;=E\left[X\left(t_{1}\right) X\left(t_{2}\right)\right]-m_{X}\left(t_{1}\right) m_{X}\left(t_{2}\right) \\ &amp;=R_{X}\left(t_{1}, t_{2}\right)-m_{X}\left(t_{1}\right) m_{X}\left(t_{2}\right) \end{aligned}$KX​(t1​,t2​)​=E[X(t1​)X(t2​)]−mX​(t1​)mX​(t2​)=RX​(t1​,t2​)−mX​(t1​)mX​(t2​)​
相关运算从线性空间的角度看其实是内积运算，而两个向量的内积在线性空间中表示一个向量向另一个向量的投影，表示两个向量的相似程度，所以相关运算就体现了这种相似程度。

（4）广义平稳随机过程

如果随机过程$X(t)$X(t)的均值为常数，自相关函数只与$\tau=t_{1}-t_{2}$有关，即
$\begin{array}{l}{m_{X}(t)=m_{X}} \\ {R_{X}\left(t_{1}, t_{2}\right)=R_{X}(\tau), \quad \tau=t_{1}-t_{2}}\end{array}$mX​(t)=mX​RX​(t1​,t2​)=RX​(τ),τ=t1​−t2​​
则称随机过程$X(t)$X(t)是广义平稳的

（5）平稳随机过程的相关系数和相关时间

相关系数

$r_{X}(\tau)=\frac{K_{x}(\tau)}{\sigma_{X}^{2}}=\frac{R_{X}(\tau)-m_{X}^{2}}{\sigma_{X}^{2}}$rX​(τ)=σX2​Kx​(τ)​=σX2​RX​(τ)−mX2​​

相关时间

$\left|r_{X}\left(\tau_{0}\right)\right| \leqslant 0.05$∣rX​(τ0​)∣⩽0.05

(6)各态历经过程

 　　各态历经随机过程一个样本函数经历了随机过程所有可能的状态，通过对一条样本函数的观测就可以估计出随机过程的均值、方差和相关函数
　　对大多数的平稳随机过程而言，都具有各态历经性
　　

3 随机过程的联合分布和互相关函数

互相关函数

$R_{X Y}\left(t_{1}, t_{2}\right)=E\left[X\left(t_{1}\right) Y\left(t_{2}\right)\right]=\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} x y f_{x y}\left(x, y, t_{1}, t_{2}\right) \mathrm{d} x \mathrm{d} y$RXY​(t1​,t2​)=E[X(t1​)Y(t2​)]=∫−∞+∞​∫−∞+∞​xyfxy​(x,y,t1​,t2​)dxdy

互协方差函数

$K_{X Y}\left(t_{1}, t_{2}\right)=E\left\{\left[X\left(t_{1}\right)-m_{x}\left(t_{1}\right)\right]\left[Y\left(t_{2}\right)-m_{X}\left(t_{2}\right)\right]\right\}$KXY​(t1​,t2​)=E{[X(t1​)−mx​(t1​)][Y(t2​)−mX​(t2​)]}

互协方差函数与互相关函数的关系

$K_{X Y}\left(t_{1}, t_{2}\right)=R_{X Y}\left(t_{1}, t_{z}\right)-m_{X}\left(t_{1}\right) m_{X}\left(t_{z}\right)$KXY​(t1​,t2​)=RXY​(t1​,tz​)−mX​(t1​)mX​(tz​)

广义联合平稳

如果
$\begin{array}{l}{m_{X}(t)=m_{x}} \\ {m_{Y}(t)=m_{Y}} \\ {R_{X Y}\left(t_{1}, t_{2}\right)=R_{X Y}(\tau), \quad \tau=t_{1}-t_{2}}\end{array}$mX​(t)=mx​mY​(t)=mY​RXY​(t1​,t2​)=RXY​(τ),τ=t1​−t2​​
则称$X(t)$X(t)与$Y(t)$Y(t)是广义联合平稳的

联合平稳随机过程互相关函数性质

(1)

$\begin{array}{l}{R_{X Y}(-\tau)=R_{Y X}(\tau)} \\ {K_{X Y}(-\tau)=K_{Y X}(\tau)}\end{array}$RXY​(−τ)=RYX​(τ)KXY​(−τ)=KYX​(τ)​
因为
$R_{X Y}(-\tau)=E[X(t-\tau) Y(t)]=E[Y(t) X(t-\tau)]=R_{Y X}(\tau)$RXY​(−τ)=E[X(t−τ)Y(t)]=E[Y(t)X(t−τ)]=RYX​(τ)

(2)

$\begin{array}{l}{\left|R_{X Y}(\tau)\right|^{2} \leqslant R_{X}(0) R_{Y}(0)} \\ {2 R_{X Y}(\tau) \leqslant R_{X}(0)+R_{Y}(0)} \\ {\left|K_{X Y}(\tau)\right|^{2} \leqslant \sigma_{X}^2 \sigma_{Y}^{2}}\end{array}$∣RXY​(τ)∣2⩽RX​(0)RY​(0)2RXY​(τ)⩽RX​(0)+RY​(0)∣KXY​(τ)∣2⩽σX2​σY2​​

(3)

若$X(t)$X(t)与$Y(t)$Y(t)是联合平稳的，则$Z(t)=X(t)+Y(t)$Z(t)=X(t)+Y(t)是平稳的，且
$R_{Z}(\tau)=R_{X}(\tau)+R_{Y}(\tau)+R_{X Y}(\tau)+R_{Y X}(\tau)$RZ​(τ)=RX​(τ)+RY​(τ)+RXY​(τ)+RYX​(τ)

4 随机过程功率谱

实质是推广的频谱分析，使用了截尾函数，使得信号满足绝对可积的狄里克雷条件