【问题标题】:Logistic Regression with Gradient Descent on large data大数据梯度下降逻辑回归
【发布时间】:2016-09-06 18:12:48
【问题描述】:

我有一个包含大约 300000 个示例和大约 50-60 个特征的训练集,它也是一个包含大约 7 个类的多类。我有我的逻辑回归函数,它使用梯度下降找出参数的收敛性。我的梯度下降算法以矩阵形式查找参数,因为它以矩阵形式比在循环中单独和线性执行更快。 前任 : 矩阵(P)

对于小的训练数据,它非常快并且给出正确的值,最大迭代次数约为 1000000,但是对于这么多的训练数据,它非常慢,大约 500 次迭代需要 18 分钟,但有这么多迭代梯度下降,成本仍然很高,并且无法正确预测类别。

我知道,我应该实现特征选择或特征缩放,但我不能使用提供的包。使用的语言是 R。如何在不使用任何库包的情况下实现特征选择或缩放。

【问题讨论】:

    标签: logistic-regression gradient-descent


    【解决方案1】:

    根据link,您可以使用 Z-score 归一化或 min-max 缩放方法。两种方法都将数据缩放到 [0,1] 范围。 Z-score normalization 计算为

    Min-max scaling method 计算为:

    【讨论】:

      猜你喜欢
      • 2021-12-22
      • 2015-07-15
      • 2014-03-21
      • 2020-05-01
      • 1970-01-01
      • 2020-02-25
      • 2015-05-03
      • 2014-08-26
      相关资源
      最近更新 更多