Python 回归变量选择答案

【问题标题】：Python Regression Variable SelectionPython 回归变量选择
【发布时间】：2014-12-11 06:43:33
【问题描述】：

我有一个包含 80 个数值变量（无分类变量）的基本线性回归。训练集有 1600 行，测试 700 行。

我想要一个 Python 包，它可以遍历所有列组合以找到最佳的自定义评分函数或像 AIC 这样的开箱即用评分函数。要么如果不存在，这里的人用什么来进行变量选择？我知道 R 有一些这样的包，但不想处理 Rpy2

如果 LM 需要 scikit learn、numpy、pandas、statsmodels 或其他，我没有偏好。

【问题讨论】：

【解决方案1】：

我可以建议一个使用最小绝对收缩和选择运算符（套索）的答案。我没有在像你这样的情况下使用过，你必须处理这么多的数据。

我经常编写代码来使用如下的 statsmodel 进行线性回归，

import statsmodels.api as sm

model = sm.OLS()
results = model.fit(train_X,train_Y)

如果我想进行 Lasso 回归，我会编写如下代码，

from sklearn import linear_model

model = linear_model.Lasso(alpha=1.0(default))
results = model.fit(train_X,train_Y)

您必须在 0.0 和 1.0 之间确定合适的 alpha。参数由你不接受错误的方式决定。

试试这个。

【讨论】：

这在理论上可以回答这个问题，但最好将答案的基本部分包含在此处以供将来的用户使用，并提供链接以供参考。 Link-dominated answers 可以通过link rot 失效。