StatsModels 公式多项式回归与 numpy polyfit 系数不匹配答案

【问题标题】：StatsModels formula Polynomial Regression does not match numpy polyfit coefficientsStatsModels 公式多项式回归与 numpy polyfit 系数不匹配
【发布时间】：2020-05-23 19:30:30
【问题描述】：

我使用 statsmodels 公式的多项式回归与 nupy polyfit 系数不匹配。

链接到数据https://drive.google.com/file/d/1fQuCoCF_TeXzZuUFyKaHCbD1zle2f1MF/view?usp=sharing

下面是我的代码

import numpy as np
import pandas as pd
import scipy
import statsmodels.formula.api as smf

data = pd.read_csv('sp500.csv')

data['Date_Ordinal'] = pd.to_datetime(data['Date']).apply(lambda date: date.toordinal())

x = data['Date_Ordinal']
y = data['Value']

np.polyfit(x,y,2)

model = smf.ols(formula='y ~ x + I(x**2)', data = data).fit()
model.summary()

Numpy polyfit 系数结果：

数组([ 4.17939013e-05, -6.09338454e+01, 2.22098809e+07])

Statsmodels 系数结果：

x**2: 7.468e-07

x：-0.5466

拦截：-1.486e-06

当我向 Excel 中的数据添加二次趋势线时，Excel 结果与 numpy 系数一致。但是，如果我将截距 1 添加到 Excel 趋势线，x**2 和 x 的系数等于 statsmodels 系数，但 excel 截距变为 1，而 statsmodels 截距为 -1.486e-06。

如果通过减去 1 从 statsmodels 公式中删除截距，它所做的只是从 statsmodels 结果中完全删除截距，但系数保持不变。

如何让 statsmodels 显示与 numpy polyfit 和 Excel 相同的系数结果？

【问题讨论】：

这可能是一个数值问题，因为缩放不当。您的x 日期范围是多少？ statsmodels 在 OLS 中报告什么条件编号？
x 日期的范围是 2010 年 1 月 1 日到 2019 年 12 月 1 日（每月频率）。条件数为 2.95e+17。这是否解释了为什么 numpy 和 excel（无截距）之间以及 statsmodels 和 excel（截距为 1）之间的系数匹配？
您的数据是否只有两列？作为smf.ols()中的喂食数据@
数据最初有日期列和值列，但后来我添加了一个 Date_Ordinal 列
重新调整您的 Date_Ordinal 以获得一些小数字。您的条件数本质上意味着计算在数值上不稳定，因此这些数字是由我的数值噪声驱动的，如果使用相同的基础数值函数，这可能是相同的。

标签： python numpy regression statsmodels non-linear-regression

【解决方案1】：

如果基础数据不在零附近的小范围内，多项式可能会变得非常糟糕。因此，计算在数值上变得不稳定，并且结果可能会受到数值噪声的支配。

http://jpktd.blogspot.com/2012/03/numerical-accuracy-in-linear-least.html 查看 NIST 测试用例，其中多项式的缩放比例非常差，许多统计数据包无法生成数值稳定的解决方案。

Numpy 的多项式拟合可以在创建多项式基函数之前在内部重新调整变量。

像 statsmodels 中的 OLS 等通用回归模型没有必要的信息来重新调整基础变量以提高数值稳定性。此外，缩放和处理多重共线性由用户决定。在这种情况下，OLS 摘要应该打印一个警告。

【讨论】：