MLPRegressor 的损失历史

Question

我正在使用 MLPRegressor 来解决一个问题，并想绘制损失函数，即每个训练时期损失减少了多少。但是，可用于 MLPRegressor 的属性 model.loss_ 仅允许访问最后的损失值。有没有可能访问整个损失历史？

Answer 1

实际上非常简单：model.loss_curve_ 为您提供每个时期的损失值。然后，您可以通过将时期放在 x 轴上并将上述值放在 y 轴上来轻松绘制学习曲线

Answer 2

正如@francesco 建议的那样，使用model.loss_curve_ 非常简单，并将这些值绘制为y 轴，将索引或纪元数绘制为x 轴。

绘制使用 sci-kit learn 训练的模型损失的示例代码：

最后一行很重要！

import pandas as pd
from sklearn.neural_network import MLPRegressor

# Create Neural Net MLP regressor 
# Explore settings logarithmically (0.1, 0.01, 0.001, 0.00001)
model = MLPRegressor(
    # try some layer & node sizes
    hidden_layer_sizes=(5,17), 
    # find a learning rate?
    learning_rate_init=.001,
    # activation functions (relu, tanh, identity)
    activation='relu',
    max_iter=2000
);

# Train it (where X_train is your feature matrix & Y_train is a vector with desired target values for each record)
nn_regr.fit(X_train,Y_train)

# Plot the 'loss_curve_' protery on model to see how well we are learning over the iterations
# Use Pandas built in plot method on DataFrame to creat plot in one line of code
pd.DataFrame(model.loss_curve_).plot()

Model Loss Curve Plot using Pandas/Matplotlib

要在上下文中查看此代码，请查看 Jupyter 笔记本 https://github.com/atomantic/ml_class/blob/master/06%20-%20Regression%20Examples.ipynb 从介绍到 ML 研讨会 @atomantic 和 @jasonlewismedia 放在一起。