【问题标题】:Using multiple self-defined metrics in LightGBM在 LightGBM 中使用多个自定义指标
【发布时间】:2019-05-01 01:14:07
【问题描述】:

鉴于我们可以在 LightGBM 中使用自定义指标,并在训练期间使用参数“feval”来调用它。 对于给定的度量,我们可以在参数 dict 中定义它,比如 metric:(l1, l2) 我的问题是如何同时调用多个自定义指标?我无法使用 feval=(my_metric1, my_metric2) 来获取结果

【问题讨论】:

    标签: python-3.x machine-learning xgboost lightgbm


    【解决方案1】:
    params = {}
    params['learning_rate'] = 0.003
    params['boosting_type'] = 'goss'
    params['objective'] = 'multiclassova'
    params['metric'] = ['multi_error', 'multi_logloss']
    params['sub_feature'] = 0.8
    params['num_leaves'] = 15
    params['min_data'] = 600
    params['tree_learner'] = 'voting'
    params['bagging_freq'] = 3
    params['num_class'] = 3
    params['max_depth'] = -1
    params['max_bin'] = 512
    params['verbose'] = -1
    params['is_unbalance'] = True
    evals_result = {}
    aa = lgb.train(params,
                       d_train,
                       valid_sets=[d_train, d_dev],
                       evals_result=evals_result,
                       num_boost_round=4500,
                       feature_name=f_names,
                       verbose_eval=10,
                       categorical_feature = f_names,
                       learning_rates=lambda iter: (1 / (1 + decay_rate * iter)) * params['learning_rate'])
    

    让我们讨论一下我在这里分享的代码。 d_train 是我的训练集。 d_dev 是我的验证集(我有一个不同的测试集。)evals_result 将记录我们每次迭代的 multi_error 和 multi_logloss 作为一个列表。 verbose_eval = 10 将使 LightGBM 在每 10 次迭代时打印训练集和验证集的 multi_error 和 multi_logloss。如果要将 multi_error 和 multi_logloss 绘制为图形:

    lgb.plot_metric(evals_result, metric='multi_error')
    plt.show()
    
    lgb.plot_metric(evals_result, metric='multi_logloss')
    plt.show()
    

    您可以从 LightGBM 文档中找到其他有用的功能。如果你找不到你需要的东西,去 XGBoost 文档,一个简单的技巧。如果有什么遗漏,请不要犹豫,询问更多。

    【讨论】:

    • multi_error和accuracy_score在多分类问题上有什么区别?
    • @Catbuilts 没有核心区别;考虑到 LightGBM 的 multi_error 的表示法,从 1 中减去 multi_error 会得到 accuracy_score
    猜你喜欢
    • 1970-01-01
    • 2021-02-11
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-08-22
    • 1970-01-01
    • 2022-08-13
    相关资源
    最近更新 更多