指定要在 optuna (lightgbm) 中搜索的固定参数和参数答案

【问题标题】：Specify fixed parameters and parameters to be search in optuna (lightgbm)指定要在 optuna (lightgbm) 中搜索的固定参数和参数
【发布时间】：2021-02-21 05:11:17
【问题描述】：

我刚刚找到 Optuna，它们似乎与 lightGBM 集成，但我很难找到可以修复参数的位置，例如 scoring="auc" 以及可以定义要搜索的网格空间，例如 num_leaves=[1,2,5,10]。

以https://github.com/optuna/optuna/blob/master/examples/lightgbm_tuner_simple.py 为例，他们只定义了一个带有一些固定参数的params dict（所有参数都没有在该dict 中指定吗？），documentation 声明

它逐步调整重要的超参数（例如 min_child_samples 和 feature_fraction）

如何控制调整哪些参数以及在哪些空间进行调整，以及如何修复一些参数？

【问题讨论】：

标签： python-3.x lightgbm optuna

【解决方案1】：

我不了解 LightGBM，但由于这是在 optuna 中修复参数的第一个结果，所以我将回答这部分问题：

在 optuna 中，搜索空间是在目标函数的代码中定义的。此函数应将“试验”对象作为输入，您可以通过在该试验对象上调用 suggest_float()、suggest_int() 等函数来创建参数。有关详细信息，请参阅10_key_features/002_configurations.html 上的文档

通常，通过硬编码而不是调用suggest 函数来修复参数，但可以使用PartialFixedSampler 在外部修复特定参数

【讨论】：