CatBoost LossFunctionChange 中的负特征重要性值

Question

我正在使用 CatBoost 进行排名任务。我使用 QueryRMSE 作为我的损失函数。我注意到某些特征的特征重要性值为负数，我不知道如何解释它们。

它在文档中说，第 i 个特征重要性计算为损失（排除第 i 个特征的模型）-损失（模型）之间的差异。

所以负的特征重要性值意味着该特征使我的损失增加？ 那说明什么？

Answer 1

负特征重要性值意味着特征使损失上升。这意味着您的模型没有很好地利用此功能。这可能意味着您的模型欠拟合（没有足够的迭代次数并且它没有足够地使用该功能）或者该功能不好，您可以尝试将其删除以提高最终质量。