为线性回归注入自定义成本函数

Question

我想运行 lasso 或岭回归，但对系数的 L1 或 L2 约束是针对某些系数，而不是全部。

另一种说法：我想在套索或岭算法中使用我自己的自定义成本函数。

我想避免重写整个算法。 python中是否有允许这样做的模块？到目前为止，我查看了 scipy 和 sckit-learn，但找不到。

Answer 1

我怀疑没有适合您需求的现成可用模块。

如果我是你，我会：

1. 将特征分为两组：一组用于简单线性回归，另一组用于正则化回归。在两个不同（可能重叠？）的特征集上训练两个模型。当您交叉验证模型时，为了防止折叠之间的信息泄漏，我建议修复折叠并在同一固定折叠集上训练两个模型。

2. 在顶部，堆叠和训练任何其他回归模型。