带反馈的多标签文本分类

Question

我目前正在研究一个多标签多类文本分类问题。 在问题的某些部分，我需要向用户提供反馈，即算法根据哪些特征、单词或短语决定将实例分类到某个类别？

例如对于像A B C D E F G H I J K L M N O P Q R 这样的文本，我需要这样的输出：

我该如何考虑这个问题？这个问题的名称或关键字是什么？有没有现成的python包来解决这类问题？

Answer 1

您正在寻找的是机器学习 (ml) 模型中的可解释性。关于这个主题有很多 discussion 并且正在稳步获得更多关注，因为在重要主题（例如 terrorism detection、precision-medicine 等）中的更多实际应用程序包含了机器学习组件。

至少有一个 python 模块已经在执行您似乎要求的操作，名为 lime。

如果您对一般任务感兴趣，还可以查看许多其他资源（例如 extended presentation 和 article、conferences 等）。