如何在 R 中建模多项式回归？答案

【问题标题】：How to model polynomial regression in R?如何在 R 中建模多项式回归？
【发布时间】：2017-01-04 18:02:21
【问题描述】：

我有一个包含 70 个变量的数据集，我想对其进行多项式回归。如果列数是三/四，我可以手动编写这样的代码--

 model <- lm(y ~ poly(var1,3) + poly(var2,3) + poly(var4,4)

如果我们有 70 个变量，我们将如何处理？我们应该手动输入所有变量的名称还是有更简单的方法？

【问题讨论】：

您是否有任何关于要拟合每个变量的多项式程度的先验知识（例如，来自商业）？一般来说，多项式回归容易过拟合，泛化性较差。
这里我知道每个变量代表什么，但不知道它们的多项式程度.. 简单的线性模型给出的 Rsquared 值非常差（大约 0.02）我想知道我们如何建模多项式一般回归...
您的第一个问题“如果我们有 70 个变量，我们将如何解决这个问题？”如果这意味着我们将如何以自动化方式跨多个变量生成它，则可以将其视为编程问题。您的第二个问题与 SO 无关，会在 CV 上找到更好的家。如果正如您的评论所暗示的那样，您的主要问题与统计建模有关，我会在此处删除该问题，并在 CV 上发布一个问题以强调这一点。
已删除问题的第二部分...
谢谢，adibender 也提出了同样的建议……

【解决方案1】：

如果所有变量都被系统命名，您可以粘贴公式：

form <- as.formula(paste("y~", paste0("poly(var", 1:10, ")", collapse="+")))

或（对于三次多项式）：

form <- as.formula(paste("y~", paste0("poly(var", 1:10, ", degree=3)", collapse="+")))

另外，如果您的数据集 df 中只有因变量 y 和感兴趣的协变量（具有非系统名称），您可以尝试

ind.y <- grep("y", colnames(df))
form <- as.formula(paste("y~", paste0("poly(", colnames(df[, -ind.y]), ", degree=3)", collapse="+")))

【讨论】：

两点 -- 1. 度数是否自动设置为一？ 2. 我们可能需要不同的程度，不是吗？像 poly(var1,3)+poly(var2,1)
1.) 是的，但是您可以在粘贴的公式中包含学位，请参阅编辑
2.) 是的，但是如上面的 cmets 所示，您通常不想提前设置多项式的次数，或者更好地使用全局多项式。惩罚样条通常是首选，例如使用来自mgcv 包的gam 函数。此外，您可能想要进行变量选择，但如前所述，这是交叉验证的问题
好的。谢谢在这里学到了很多。我会检查 gam，它可能对我的机器学习相关部分问题有一些答案..
我的残差 vs 拟合图值看起来像第三个图（具有指数关系 - stats.stackexchange.com/questions/253035/… 提醒“数学的不合理有效性”论点。当我进行对数转换时，Rsquared 显示跳跃，而不是物有所值，但有一些改进......