glmnet，多项预测返回对象

Question

我正在尝试使用 glmnet 进行分类预测，但是我无法推断“glmnet.predict”的返回对象应该代表什么。使用代码

mlogit_r<-glmnet(train_x, cbind(cns_label, renal_label,breast_label,nsclc_label,ovarian_label,leuk_label,colon_label, mela_label),
            family="multinomial", alpha=0)
pred <- predict(mlogit_r, train_x, type="class")

train_x 为 57(n) x 6830(p)，y 对象为 57(n) x 8（类数）。返回的预测对象是一个带有标签的 57 x 100 矩阵。其中哪些是预测的标签？

它没有显示在文档中，因为它只是说

返回的对象取决于 . . .传递给 glmnet 对象的预测方法。

Answer 1

当您在不指定 lambda 值的情况下拟合 glmnet 模型时，默认情况下会拟合包含 100 个 lambda 值的范围。当您在未指定 lambda 的情况下对此类模型调用 predict 时，将对所有 lambda 进行预测，因此您会从 100 个不同的模型中收到 100 个不同的预测。

通常会运行交叉验证以选择一个最佳的 lambda，然后使用它进行预测：

library(glmnet)
data(iris)

让我们使用 120 行进行训练：

z <- sample(1:nrow(iris), 120)

现在使用未命中分类错误运行 5 折交叉验证以选择最佳 lambda：

cv_fit <- cv.glmnet(as.matrix(iris[z,-5]),
                   iris[z,5],
                   nfolds = 5,
                   type.measure = "class",
                   alpha = 0,
                   grouped = FALSE,
                   family = "multinomial")

plot(cv_fit)

在这里您可以看到与左侧虚线对应的 lambda.min（在 5 折交叉验证中误差最小的 lambda）和 lambda.1se（误差为 1 se 的 lambda，其附近的误差最小）右边。

这些值位于：

cv_fit$lambda.min
#[1] 0.05560455

cv_fit$lambda.1se
#[1] 0.09717054

现在，当您知道最佳 lambda 时，您可以在 100 个 lambda 值上构建模型：

fit <- glmnet(as.matrix(iris[z,-5]),
              iris[z, 5],
              alpha = 0,
              family = "multinomial")

并预测一个特定的：

predict(fit, as.matrix(iris[-z,-5]), s = cv_fit$lambda.min, type = "class")

或在一个 lambda 上构建模型

fit1 <- glmnet(as.matrix(iris[z,-5]),
              iris[z, 5],
              alpha = 0,
              lambda = cv_fit$lambda.min,
              family = "multinomial")

并在不指定 lambda 的情况下进行预测：

all.equal(as.vector(predict(fit, as.matrix(iris[-z,-5]), s = cv_fit$lambda.min, type = "class")),
          as.vector(predict(fit1, as.matrix(iris[-z,-5]), type = "class")))

#TRUE

要查看系数的约束程度，您可以绘制模型和使用的 lambda：

plot(fit, xvar = "lambda")
abline(v = log(cv_fit$lambda.min), lty = 2)