在 R 的逐步回归中结合交叉验证答案

【问题标题】：Incorporating cross validation in stepwise regression in R在 R 的逐步回归中结合交叉验证
【发布时间】：2013-12-22 23:08:14
【问题描述】：

我有一个包含 162 个观察值和 151 个不同变量的数据集，我想对其进行逐步回归，但也对其进行 10 折交叉验证。我之前使用过 DAAG 包，以便使用多元线性回归执行 10 倍交叉验证，并且能够使用它的公式之一：-

CVlm(df = data, seed=1500, m = 10, form.lm = formula(RT..seconds.~.,), printit=TRUE)

我想知道该软件包是否支持相同的东西但具有逐步回归？我浏览了它的pdf，但找不到任何东西。

我知道我可以使用 MASS 包执行逐步回归

step <- stepAIC(fit, direction="both")

但不知道如何将 10 倍 CV 纳入等式。

谢谢

【问题讨论】：

【解决方案1】：

SuperLearner 包支持逐步回归的 v-fold 交叉验证。

【讨论】：

您好，谢谢。我刚刚查看了 SuperLearner 包，但对于如何逐步构建它并没有太多帮助。我对PDF也很困惑。我知道您需要这样做：-'CV.SuperLearner(Y, X, V = 20, family = gaussian(), SL.library, method = "method.NNLS", id = NULL, verbose = FALSE, control = list(saveFitLibrary = FALSE), cvControl = list(), obsWeights = NULL, saveAll = TRUE, parallel = "seq")' 但是您在哪里以及如何指定要在此使用逐步回归？
您需要定义SL.library。如果您使用listWrappers()，您将看到所有可用的算法，其中包括SL.step。所以如果你只想要SL.library <- c("SL.step")。源代码是here。您可能还会发现此 question 中的代码很有帮助。