【问题标题】：Relationship logistic regression and Stochastic gradient descent In Formula [closed]公式中的关系逻辑回归和随机梯度下降[关闭]
【发布时间】：2018-05-18 14:22:29
【问题描述】：
考虑到公式术语，我认为 SGD 适用于 Logistic 回归的最终结果。不知道对不对
只是想知道随机梯度下降和逻辑回归之间的关系。我猜它的工作原理类似于神经元网络，它计算如何提高体重（应用链式法则）。
换句话说，在计算出 LR 公式之后，它会在其上应用链式法则。为了获得更好的权重并将其保持在循环单元 LR 损失率接近于零，这是正确的吗？谢谢
例如，完成LR计算后，
然后应用 SGD(LR) -> 获取更新的权重 -> 再次循环执行 LR，直到满足 SGD
【问题讨论】：
标签：
python
machine-learning
logistic-regression
gradient-descent
【解决方案1】：
逻辑回归是一种使用逻辑函数（或类似变体）对离散系统建模的方法。也就是说，一个系统的输出具有有限数量的可能值。您可以将其视为一种分类算法（尽管这种描述可能很危险，因为分类在技术上与回归不同），它将一组输入映射到一组有限的输出。
随机梯度下降是梯度下降（或批量梯度下降）优化算法的变体。它不是同时使用所有（或“一批”）训练数据（可能非常耗费计算/内存），而是使用迭代近似来在 N 维输入空间中找到函数的最小值。
随机梯度下降可用于构建逻辑回归模型，类似于其可用于构建线性回归模型的方式。模型本身独立于用于训练它的优化算法。虽然随机梯度下降通常用作训练算法，但它不是ONLY选项。