【发布时间】:2013-08-21 19:31:06
【问题描述】:
我正在做一个项目,我需要获取给定单词的词根(词干)。如您所知,不使用字典的词干算法并不准确。我也尝试了 WordNet,但它对我的项目不利。我找到了 phpmorphy 项目,但它不包含 Java 中的 API。
此时我正在寻找具有不同形式的英文单词的数据库或文本文件。例如:
跑跑跑跑... 包括 包括... ...
感谢您的帮助或建议。
【问题讨论】:
标签: nlp stemming lemmatization
我正在做一个项目,我需要获取给定单词的词根(词干)。如您所知,不使用字典的词干算法并不准确。我也尝试了 WordNet,但它对我的项目不利。我找到了 phpmorphy 项目,但它不包含 Java 中的 API。
此时我正在寻找具有不同形式的英文单词的数据库或文本文件。例如:
跑跑跑跑... 包括 包括... ...
感谢您的帮助或建议。
【问题讨论】:
标签: nlp stemming lemmatization
你可以下载LanguageTool(免责声明:我是维护者),它带有一个二进制文件english.dict。 The LanguageTool Wiki 描述了如何将该文件转储为文本文件:
java -jar morfologik-tools-1.6.0-standalone.jar fsa_dump -x -d english.dict
对于run,文件将包含以下内容:
ran run VBD
run run NN
run run VB
run run VBN
run run VBP
running run VBG
runs run NNS
runs run VBZ
第一列是屈折形式,第二列是基本形式,第三列是根据(略微扩展)Penn Treebank tagset的词性标签。
【讨论】:
orthography's 被识别为 <S> orthography[orthography/NN,B-NP-singular|E-NP-singular]'['/POS]s[s/POS,</S>]。对吗?
java -cp languagetool.jar org.languagetool.tools.DictionaryExporter -i org/languagetool/resource/en/english.dict -info org/languagetool/resource/en/english.info -o dictionary.dump