【问题标题】:Covariance matrix from np.polyfit() has negative diagonal?np.polyfit() 的协方差矩阵有负对角线?
【发布时间】:2017-02-26 23:09:25
【问题描述】:

问题:np.polyfit()cov=True 选项会生成一个带有无意义负值的对角线。

更新:在玩了一些之后,我真的开始怀疑 numpy 中的错误?那可能吗?从数据集中删除任意一对 13 个值将解决此问题。

我正在使用np.polyfit() 来计算数据集的斜率和截距系数。这些值的图会产生一个非常线性(但不是完美)的线性图。我正在尝试使用np.sqrt(np.diag(cov)) 获得这些系数的标准偏差;但是,这会引发错误,因为对角线包含负值。

用负对角线生成协变量矩阵在数学上应该是不可能的——numpy 做错了什么?

这里是重现问题的 sn-p:

import numpy as np

x = [1476728821.797, 1476728821.904, 1476728821.911, 1476728821.920, 1476728822.031, 1476728822.039,
     1476728822.047, 1476728822.153, 1476728822.162, 1476728822.171, 1476728822.280, 1476728822.289,
     1476728822.297, 1476728822.407, 1476728822.416, 1476728822.423, 1476728822.530, 1476728822.539,
     1476728822.547, 1476728822.657, 1476728822.666, 1476728822.674, 1476728822.759, 1476728822.788,
     1476728822.797, 1476728822.805, 1476728822.915, 1476728822.923, 1476728822.931, 1476728823.038,
     1476728823.047, 1476728823.054, 1476728823.165, 1476728823.175, 1476728823.182, 1476728823.292,
     1476728823.300, 1476728823.308, 1476728823.415, 1476728823.424, 1476728823.432, 1476728823.551,
     1476728823.559, 1476728823.567, 1476728823.678, 1476728823.689, 1476728823.697, 1476728823.808,
     1476728823.828, 1476728823.837, 1476728823.947, 1476728823.956, 1476728823.964, 1476728824.074,
     1476728824.083, 1476728824.091, 1476728824.201, 1476728824.209, 1476728824.217, 1476728824.324,
     1476728824.333, 1476728824.341, 1476728824.451, 1476728824.460, 1476728824.468, 1476728824.579,
     1476728824.590, 1476728824.598, 1476728824.721, 1476728824.730, 1476728824.788]

y = [6309927, 6310105, 6310116, 6310125, 6310299, 6310317, 6310326, 6310501, 6310513, 6310523, 6310688,
     6310703, 6310712, 6310875, 6310891, 6310900, 6311058, 6311069, 6311079, 6311243, 6311261, 6311272,
     6311414, 6311463, 6311479, 6311490, 6311665, 6311683, 6311692, 6311857, 6311867, 6311877, 6312037,
     6312054, 6312065, 6312230, 6312248, 6312257, 6312430, 6312442, 6312455, 6312646, 6312665, 6312675,
     6312860, 6312879, 6312894, 6313071, 6313103, 6313117, 6313287, 6313304, 6313315, 6313489, 6313505,
     6313518, 6313675, 6313692, 6313701, 6313875, 6313888, 6313898, 6314076, 6314093, 6314104, 6314285,
     6314306, 6314321, 6314526, 6314541, 6314638]

z, cov = np.polyfit(np.asarray(x), np.asarray(y), 1, cov=True)

std = np.sqrt(np.diag(cov))

print z
print cov
print std

【问题讨论】:

    标签: python python-2.7 numpy statistics linear-regression


    【解决方案1】:

    看起来它与您的 x 值有关:它们的总范围约为 3,偏移量约为 15 亿。

    在您的代码中

    np.asarray(x)
    

    在 float64 的 ndarray 中转换 x 值。虽然这可以正确表示 x 值本身,但可能不足以进行所需的计算来获得协方差矩阵。

    np.asarray(x, dtype=np.float128)
    

    可以解决问题,但是 polyfit 不能与 float128 一起使用 :(

    TypeError: array type float128 is unsupported in linalg
    

    作为一种解决方法,您可以从 x 中减去偏移量,然后使用 polyfit。这会产生一个带有正对角线的协方差矩阵:

    x1 = x - np.mean(x)
    z1, cov1 = np.polyfit(np.asarray(x1), np.asarray(y), 1, cov=True)
    std1 = np.sqrt(np.diag(cov1))
    
    print z1    # prints: array([  1.56607841e+03,   6.31224162e+06])
    print cov1  # prints: array([[  4.56066546e+00,  -2.90980285e-07],
                #                [ -2.90980285e-07,   3.36480951e+00]])
    print std1  # prints: array([ 2.13557146,  1.83434171])
    

    您必须相应地重新调整结果。

    【讨论】:

    • 这对于np.polyfit() 函数来说听起来是个大问题。 x 值是 3 秒数据的时间戳。我很惊讶这样一个常见的用例会在不引发异常的情况下产生如此神秘的错误。感谢您注意浮动大小。
    • 此外,我不明白您所说的“重新调整结果”是什么意思。斜率上的标准偏差在重新缩放后是否正确?
    • 我的意思是 z1 和 z 不一样。特别是:z[0] == z1[0] z[1] == z1[1] - z1[0]*np.mean(x)
    • 有道理。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-01-18
    • 2012-12-09
    • 1970-01-01
    • 2020-04-13
    • 1970-01-01
    相关资源
    最近更新 更多