【问题标题】:How to start to build a corpus for NLP research如何开始为 NLP 研究建立语料库
【发布时间】:2011-10-30 17:53:31
【问题描述】:

我正在尝试为资源不足的语言构建 NLP 语料库,因为没有可用于 NLP 研究的数据。任何人都可以建议如何构建或继续使其成为标准 NLP 语料库、任何标准方法或论文或链接。 提前致谢

【问题讨论】:

  • 到目前为止,您发现或尝试了什么?语料库语言学有许多不同的领域和许多不同的方法来收集数据。对于一种更稀有/更少“数字化”的语言,它在现场工作方面的劳动强度更大,通常不是程序员的领域。
  • 我正在尝试使用的语言的数字资源非常少。所以我正在尝试为 NLP 研究目的构建一个,无疑这将是一项艰巨的任务,但我也需要技术信息,或者是否有任何标准格式可以为不同大学中的英语等语言构建语料库。跨度>
  • 你真的应该咨询语言学部门,尤其是那些擅长为较少研究的语言收集语料库的部门。这通常由硕士或博士生承担,这是一个漫长过程的一部分。坐下来重新开始并不容易。这并不是要劝阻你,因为它反映了收集此类数据的成本非常高,例如,每千个句子(或百万个单词,如果你愿意的话)。制定一个之前执行过的好计划有助于降低成本并提高数据中的 SNR。
  • 该语言是否已经有一组标签?我不知道您是否想要一个工具来引导用户浏览“文档”中的每个单词并让用户轻松选择标签,或者您是否正在尝试构建一组标签。
  • “没有可用的数据”到底是什么意思?真是太假了。有很多可用的语料库,包括带有不同数量标记的东西。

标签: nlp


【解决方案1】:

我建议联系华盛顿大学的夏飞这样的人,他曾在 Penn Treebank 工作过并且有点帽子专家,或者 Penn 的一些人。

为解析和标记构建完整的树库并非易事。你到底想做什么?目标是什么? -解析/标记? -语义? - 信息提取? -语音?

老实说,根据 cmets 的说法,这听起来像是整个语言学家团队的项目。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2015-09-13
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多