这些知识,动不动就忘。为了不白选了一门数学课,还是把他记下来。
f(x)=1(2π)n/2C12exp{12(xμ)TC1(xμ)}f(x)= \frac{1}{ (2\pi)^{n/2} {|C|}^{\frac{1}{2}}}exp\{ -\frac{1}{2} (x-\mu)^T C^{-1} (x-\mu) \},其中 CC为协方差矩阵,n为数据维度。

对于二元正态分布:
C=[σ12ρσ1σ2ρσ1σ2σ22]C= \begin{bmatrix} \sigma_1^2 & \rho\sigma_1\sigma_2 \\ \rho\sigma_1\sigma_2 & \sigma_2^2 \end{bmatrix}。其中σi\sigma_i为第ii维数据的方差,ρ\rho为相关系数,所以显然ρσ1σ2\rho\sigma_1\sigma_2为协方差。

二元正态分布:
12π1ρ2σ1σ2exp{(yμ2)22σ22}exp{12(1ρ2)×(xμ1σ1ρyμ2σ2)2}\frac{1}{2\pi\sqrt{1-\rho^2}\sigma_1\sigma_2} exp\{-\frac{(y-\mu_2)^2}{2\sigma_2^2}\} exp\{ -\frac{1}{2(1-\rho^2)} \times (\frac{x-\mu_1}{\sigma_1}-\rho\frac{y-\mu_2}{\sigma_2})^2\}

对于多元正态分布,如果各维相互独立,那么CC中主对角之外的元素为0,这是因为相关系数都为0。

接下来附上3页草稿,验证二元正态分布的形式和多元正态分布的形式吻合:

多元高斯分布/多元正态分布

多元高斯分布/多元正态分布

多元高斯分布/多元正态分布

如果n维正态分布的每一维相互独立,密度函数就是n个1维正态分布的乘积。

相关文章: