【问题标题】:Confidence intervals for Ridge regression岭回归的置信区间
【发布时间】:2017-02-06 15:18:49
【问题描述】:

我无法在岭回归中计算置信区间。我有这个模型。

model5 <- glmnet(train_x,train_y,family = "gaussian",alpha=0, lambda=0.01)

当我进行预测时,我会使用以下命令:

test_pred <- predict(model5, test_x, type = "link")

有人知道如何计算预测的置信区间吗?

【问题讨论】:

    标签: r regression glmnet


    【解决方案1】:

    事实证明,glmnet 不提供标准误差(因此不提供置信区间),正如 here 所解释的那样,并且也在此 vignette 中解决(摘录如下):

    要求回归的标准误差是一个非常自然的问题 系数或其他估计量。原则上这样的标准 可以很容易地计算错误,例如使用引导程序。

    不过,这 包故意不提供它们。这样做的原因是 标准误对于强烈的偏见不是很有意义 例如来自惩罚估计方法的估计。受罚 估计是一个减少估计量方差的过程 引入实质性偏见。因此,每个估计量的偏差是 其均方误差的主要组成部分,而其方差可能 只贡献了一小部分。

    不幸的是,在大多数应用程序中 惩罚回归不可能获得足够精确的 偏差的估计。任何基于 bootstrap 的计算只能给出 估计的方差评估。可靠的估计 只有当可靠的无偏估计是可用的 可用,这通常不是在以下情况下 使用惩罚估计。

    报告一个标准错误 因此,惩罚估计只说明了部分情况。它可以给 一个非常精确的错误印象,完全忽略了 偏差造成的不准确。这肯定是一个错误 仅基于评估的信心陈述 估计的方差,例如基于自举的置信度 间隔可以。

    围绕惩罚项的可靠置信区间 在低维模型的情况下,可以使用 在 lm、glm 中实现的标准广义线性模型理论 和考克斯。构建可靠置信区间的方法 据我所知,高维情况不可用。

    但是,如果您坚持置信区间,请查看 this 帖子。

    【讨论】:

    • here 链接已失效。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2017-11-09
    • 2016-10-25
    • 2016-12-12
    • 2010-11-13
    • 2013-01-03
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多