对分类任务进行投票

Question

我想知道是否可以对分类任务进行投票。我看过很多博客解释如何使用投票进行回归。如下所示。

# initializing all the model objects with default parameters
model_1 = LinearRegression()
model_2 = xgb.XGBRegressor()
model_3 = RandomForestRegressor()
 
# training all the model on the training dataset
model_1.fit(X_train, y_target)
model_2.fit(X_train, y_target)
model_3.fit(X_train, y_target)
 
# predicting the output on the validation dataset
pred_1 = model_1.predict(X_test)
pred_2 = model_2.predict(X_test)
pred_3 = model_3.predict(X_test)
 
# final prediction after averaging on the prediction of all 3 models
pred_final = (pred_1+pred_2+pred_3)/3.0
 
# printing the mean squared error between real value and predicted value
print(mean_squared_error(y_test, pred_final))

Answer 1

当然，您可以对课程使用相同的功能，只是您的投票会使用不同的功能。这就是随机森林如何得出它们的预测（森林中的单个决策树“投票”用于共同预测）。例如，您可以对所有分类器使用多数票。或者您可以使用单个预测来制定预测的概率。例如，每个班级都可以获得分配给它的选票分数作为输出。