【问题标题】:Text classification文本分类
【发布时间】:2016-06-28 17:31:27
【问题描述】:

我对 NLP 了解不多,所以请保持基本。

我想通过关键字提取器/分类器在工作中运行一些 PDF 并构建分类 - 希望提供一些商业智能。

例如,假设有几千个 PDF 要挖掘,我想确定它们适用的市场(我们服务于大约 5 个主要行业,每个行业都有几个次要行业。每个行业和子行业都有一个特定的市场,并且在大多数情况下,与原始设备制造商打交道,而原始设备制造商又与模型打交道,这些模型进一步细分为零部件等。

我很想将这些 PDF 压缩成半结构化(实际上更像是一个图表)输出,例如:

  • 航空航天
    • 制造
      • 修复
        • PT 支持
          • M250
          • C20
          • C18
    • 分布

文本分类器可以做到这一点吗?这是不是太具体了?您如何训练这样的系统,C18 是 M250 系列的“制造商”劳斯莱斯的“模型”,而“PT SUPPORT”是子组件?

我可以手动构建这些数据,但需要很长时间......

有没有一种方法可以使用文本分类器框架并构建比正则表达式和 python 更有效的东西?

此时只是在寻找想法...观看了一些关于 R 和 python 库的教程,但它们听起来并不像我想要的那样。

【问题讨论】:

标签: nlp


【解决方案1】:

好的,让我们先把你的问题分解成小的子问题,我会把任务分解为

  1. 阅读 PDF 并从中提取数据和元数据 - 看看 Apache Tikkalib
  2. 任何更有效的分类器都需要训练数据 - 为文本分类器创建训练数据
  3. 然后应用任何合适的分类器算法。

你也可以看看Carrot2聚类算法,它会自动分析数据并将pdf分组到不同的类别。

【讨论】:

  • PDF 是训练数据——至少这是希望。我可以手动构建所有制造商、模型、引擎、组件等的关系,但这是一项艰巨的任务并且违背了目的。我希望分类器可以确定/估计实体何时由于它们在 PDF 中的出现和使用而相关。在我查看的所有文件中,制造商通常都在模型之前。
  • 那么问题就变成了聚类而不是分类,那你可以试试carrot2 stackoverflow.com/a/5064981/847897
猜你喜欢
  • 2016-06-14
  • 2013-02-22
  • 2012-01-05
  • 2012-05-04
  • 2020-07-12
  • 2018-05-10
  • 1970-01-01
  • 2011-03-21
  • 2011-12-29
相关资源
最近更新 更多