MultiLayer LogisticRegression 函数与 scikit learn答案

【问题标题】：MultiLayer LogisticRegression function with scikit learnMultiLayer LogisticRegression 函数与 scikit learn
【发布时间】：2018-02-22 00:15:50
【问题描述】：

在scikit-learn 包中，我们找到了函数LogiticRegresion。但是参数不包括创建多层神经网络的能力

LogisticRegression(penalty=’l2’, dual=False, tol=0.0001, C=1.0, fit_intercept=True, intercept_scaling=1, class_weight=None, random_state=None, solver=’liblinear’, max_iter=100, multi_class=’ovr’, verbose=0, warm_start=False, n_jobs=1)

是否有任何功能或其他解决方法可以让您添加隐藏层？我关闭我发现的函数是MLPClassifier，它允许使用多层，但输出是分类的类。

【问题讨论】：

标签： python scikit-learn

【解决方案1】：

Logistic Regression 尽管它的名字并不用于执行回归。

逻辑回归通常不被认为是神经网络（尤其是统计界的统计学家），但它们can be interpreted as single layer neural networks。

您可能正在寻找 MLPRegressor 类。

【讨论】：

有没有办法将逻辑添加为最后一层并为其他层添加relu？问题是 MLPRegressor 使用平方损失 (y-y_hat)**2。而且我想使用与最后一层相同的逻辑回归方程（我可以使用 tensorflow 来完成，但编写代码需要更多时间）。
对各个层中的激活函数的更多控制不是内置在 sklearn 中的。为此，请查看 Keras，它为您提供了更大的灵活性，但处于高抽象级别，并且如果您在其 API 中有工作流，也有 sklearn wrappers。

【解决方案2】：

逻辑回归和神经网络不一样，你可以在https://en.wikipedia.org/wiki/Logistic_regression 了解更多。此外，尽管它的名称 LogisticRegression 也可以进行分类，但唯一的区别是它输出示例属于某个类的百分比机会。

对于 scikit-learn 中的神经网络，您应该使用 MLPClassifier 进行分类，使用 MLPRegressor 进行回归：http://scikit-learn.org/stable/modules/neural_networks_supervised.html。

但是，如果您正在寻找概率（如逻辑回归），您可以使用 predict.proba 让您的神经网络输出概率。

【讨论】：

抱歉词汇错误，我想要逻辑回归中的百分比机会（可能是神经网络的最后一层）。我想这样做，最大限度地减少page 18 - log likelihood 中描述的功能，但我看不到如何添加层来处理输入信息。如果我使用MLPRegressor，我有兴趣使用逻辑回归中的对数似然性，而不是平方误差。
MLPRegressor 进行回归，这与 LogisticRegression 所做的（分类）不同。这是一个常见的错误，因为这些名字太可怕了。你应该使用 MLPClassifier 和 predict_proba
你可以在这个页面看到它：scikit-learn.org/stable/modules/generated/…。在方法的下方，还有一种概率方法，称为 predict_proba
另外，正如其他人指出的那样，我认为带有 Keras 的 Tensorflow 非常好。我还在开始研究它
我唯一担心的是分类函数使用Cross Entropy作为损失函数，这与逻辑回归的损失函数并不完全相同。我可以给看看。是的，我可能最终会使用 tensorflow。

【解决方案3】：

scikit-learn 包中的LogiticRegresion 类假设只能用作 LogisticRegression（具有 Logistic（又名软步）激活函数的 1 层前馈神经网络）。

Scikit-learn 中有 Neural Network 模型，但我建议使用 Tensorflow、Theano 和 Keras。最后一个是初学者的最佳选择。

【讨论】：