LightGBM树结构提取与解释

Question

我正在尝试提取由 Light GBM 算法构建的树的确切树结构。我为此使用了model_dump，并且成功提取了结构。树看起来像这样（在 iris 数据集上训练）：

我无法理解如何评估这棵树。 Another topic on Stack Overflow says that leaf value is raw prob. before sigmoid。这似乎完全合乎逻辑，但是当我尝试将此值放入 sigmoid 函数时，lightgbm.predict(...) 返回的概率与基于我的树计算的概率不同。 model_dump 之前是否有任何影响这些值的后处理？计算输出概率的正确方法是什么。来自那些树。

Answer 1

鸢尾花数据集是多类分类。您向我们展示的树是一个班级。根据您使用的 objective，后处理并不总是 sigmoid。对于多类，您需要将softmax function 应用于您的原始预测。