Numpy协方差

【问题标题】：Numpy CovarianceNumpy协方差
【发布时间】：2020-08-06 19:34:45
【问题描述】：

当对 numpy 矩阵应用零均值时，以下 2 个代码之间是否存在预期差异？我正在学习 andrew ng 的 ML 课程，他建议使用 X @ X^T 来查找协方差矩阵（考虑到应用了零均值）。当我尝试目视检查矩阵时，发现它使用 np.cov 函数给出了差异结果..请帮助..

import numpy as np

X=np.random.randint(0,9,(3,3))
print(X)

[[2 1 5]

 [7 4 8]

 [4 7 6]]

X = (X - X.mean(axis=0)) # <- Zero Mean
print(X)

[[-2.33333333 -3.         -1.33333333]

 [ 2.66666667  0.          1.66666667]

 [-0.33333333  3.         -0.33333333]]

cov1 = (X @ X.T)/m # <- Find covariance manually as suggested in the course

print(cov1)

[[ 5.40740741 -2.81481481 -2.59259259]

 [-2.81481481  3.2962963  -0.48148148]

 [-2.59259259 -0.48148148  3.07407407]]

cov2 = np.cov(X,bias=True) # <- Find covariance with np.cov

print(cov2)

[[ 0.7037037   0.59259259 -1.2962963 ]

 [ 0.59259259  1.81481481 -2.40740741]

 [-1.2962963  -2.40740741  3.7037037 ]]

【问题讨论】：

标签： python numpy covariance

【解决方案1】：

如果您的观察是在行中，变量是在列中（将rowvar 设置为False），那么它必须是x.T @ x：

import numpy as np

x0 = np.array([[2, 1, 5], [7, 4, 8], [4, 7, 6]])
x = x0 - x0.mean(axis=0)

cov1 = x.T @ x / 3
cov2 = np.cov(x, rowvar=False, bias=True)

assert np.allclose(cov1, cov2)

x @ x.T 适用于观察在列中且变量在行中的情况：

x = x0 - x0.mean(axis=1)[:,None]

cov1 = x @ x.T / 3
cov2 = np.cov(x, bias=True) # rowvar=True by default

assert np.allclose(cov1, cov2)

【讨论】：