【问题标题】:stanford NER classification with additional classes带有附加类的斯坦福 NER 分类
【发布时间】:2015-01-06 09:32:50
【问题描述】:

目前的斯坦福NER主要提供6个课程LOCATION, TIME, PERSON' ORGANIZATION' MONEY' PERCENT' DATE 此外,它已使用英语数据进行训练,因此无法对印度实体进行分类。

是否可以用额外的类来训练分类器,以便它也可以将 NE 识别为product, month, disease, device 等。

它也不对印度实体进行分类,因此如果可能的话,也可以添加对此类非英语类的支持。

是否可以重新训练分类器、标记器以获得这种额外支持?

【问题讨论】:

标签: machine-learning nlp classification stanford-nlp


【解决方案1】:

与其他类相比,训练模型的主要麻烦是训练数据。
模型需要高度准确的训练数据,例如 I brought a <START:product> Mac Book Pro <END> in September and synced it with my <START:device> IPhone <END>. 请注意,Iphone 可以使用设备或产品进行注释。
如果您可以生成或注释至少 15,000 个带有您希望识别的类注释的句子 [这并不容易];你很高兴。
斯坦福 NER 模型或 OpenNLP NER 模型不能识别印度人的名字,因为这些模型是在华尔街期刊文章上训练的,它们不能代表许多名字。

【讨论】:

  • 是的,这就是问题所在,我想用不同类别的印度数据对其进行训练。但这似乎是在回复 stanford ner,创建自己的会是个好主意
【解决方案2】:

它也不对印度实体进行分类,因此如果可能的话,也可以添加对此类非英语类的支持。

“印度语”是指印地语吗?斯坦福 NER 和 Apache OpenNLP 都没有为印地语提供命名实体模型,但 GATE 支持基本的印地语命名实体识别:https://gate.ac.uk/sale/tao/splitch15.html#x20-41300015.7

【讨论】:

    【解决方案3】:

    对于印度实体来说,一种可能性是,如果数据格式良好,斯坦福大学的人通常很乐意将外部训练数据添加到分类器中。例如,当前的三个英语模型中有两个不能识别句子“Vihari 昨天回答了我的问题”中的“Vihari”。如果您编译一个此类句子的列表并将它们发送到 java-nlp-support@lists.stanford.edu,它们最终将进入未来的模型。

    您必须自己为其他类别(例如产品、设备等)标记大量数据,这是一项相当耗时的任务。如果您能节省预算,Amazon Mechanical Turk 可能会提供服务。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2019-03-17
      • 2018-12-04
      • 2020-04-28
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多