【问题标题】:Is it possible to append words to an existing OpenNLP POS corpus/model?是否可以将单词附加到现有的 OpenNLP POS 语料库/模型?
【发布时间】:2015-09-24 02:02:35
【问题描述】:

有没有办法训练现有的 Apache OpenNLP POS Tagger 模型?我需要在模型中添加一些特定于我的应用程序的专有名词。当我尝试使用以下命令时:

opennlp POSTaggerTrainer -type maxent -model en-pos-maxent.bin \
        -lang en -data en-pos.train -encoding UTF-8

重新训练整个模型。我只想在en-pos-maxent.bin 后面加几句新的句子

这是我的训练文件的样子:

Where_WRB is_VBZ the_DT Seven_DNNP Dwarfs_DNNP Mine_DNNP Train_DNNP ?_?
Where_WRB is_VBZ the_DT Astro_DNNP Orbiter_DNNP ?_?
Where_WRB is_VBZ the_DT Barnstormer_DNNP  ?_?
Where_WRB is_VBZ the_DT Big_DNNP Thunder_DNNP Mountain_DNNP Railroad_DNNP  ?_?
Where_WRB is_VBZ the_DT Buzz_DNNP Lightyears_DNNP Space_DNNP Ranger_DNNP Spin_DNNP  ?_?
Where_WRB is_VBZ the_DT Casey_DNNP Jr_DNNP Splash_DNNP N_DNNP Soak_DNNP Station_DNNP  ?_?
Where_WRB is_VBZ the_DT Cinderella_DNNP Castle_DNNP  ?_?
Where_WRB is_VBZ the_DT Country_DNNP Bear_DNNP Jamboree_DNNP  ?_?
Where_WRB is_VBZ the_DT Dumbo_DNNP the_DNNP Flying_DNNP Elephant_DNNP  ?_?
Where_WRB is_VBZ the_DT Enchanted_DNNP Tales_DNNP with_DNNP Belle_DNNP  ?_?
Where_WRB is_VBZ the_DT Frontierland_DNNP Shootin_DNNP Arcade_DNNP  ?_?

训练模型后,除训练文件中的单词外,所有单词都被标记为DNNP。 例如,如果我要求标记单词 'Where'(存在于训练文件中),答案是 WRB,但如果我要求标记单词 'hello'(不存在于训练文件中) ,它被标记为DNNP。所以我想补充几句。我该怎么做?

【问题讨论】:

    标签: nlp text-mining opennlp pos-tagger


    【解决方案1】:

    不幸的是,您不能简单地通过额外的训练实例来扩充 OpenNLP 模型。您需要使用原始训练数据和新数据重新训练整个模型,以获得您想要的模型。您需要使用现有的(大型)POS 标记语料库以及新示例来训练新的 POS 标记器模型。

    如果您只想识别某些类型的专有名词,您可以考虑使用您的数据训练 OpenNLP NameFinder(或其他命名实体提取器),因为这种注释器更适合识别特定类型的专有名词.您仅在上面给出了几个示例,但我认为 POS 标注器将难以区分正常的 NNP 和新的 DNNP,因为它们与 NNP 出现在相同的上下文中并且具有相同的形式(大写名词短语)。命名实体识别器是完成此类任务的更好工具。

    【讨论】:

    【解决方案2】:

    这也是不久前发布的,我可以给你一个答案:Yago 数据库。

    我在这里回答了我自己的帖子:Is there a way to get the "original" text data for OpenNLP?

    看看吧

    【讨论】:

      猜你喜欢
      • 2019-05-10
      • 2020-08-05
      • 1970-01-01
      • 1970-01-01
      • 2021-12-01
      • 2014-05-18
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多