Shap for LSTM - 作为时间步长的特征[关闭]

Question

当我使用 LSTM 将我的特征（其中 29 个）作为时间步长输入时，我正在寻求有关如何使用 Shap 来实现可解释性的指导。

所以我的训练数据集形状为(samples,29,1)。

Answer 1

要获得解释，您可以将每个时间步视为单独的特征。

但是您应该知道，SHAP 会掩盖/隐藏功能以确定它们的重要性。如何屏蔽特征很重要，时间序列数据在不将伪影引入输入数据的情况下屏蔽特征更加棘手。因此，更好的方法是考虑这一点并构建您自己的shap.maskers.Masker 子类，以真实的方式屏蔽数据（例如用它们的相邻值填充屏蔽值）。向库中添加时间序列掩码器也可以作为功能请求/PR 发布。