【问题标题】:semantic similarity between words using dynamic techniques(using wikipedia)使用动态技术的单词之间的语义相似度(使用维基百科)
【发布时间】:2012-10-03 17:22:45
【问题描述】:

我在 python 中编写了一个程序来使用 word net 查找单词之间的语义相似性。但我觉得它是静态的。我想给它一个动态的方法。我想从维基百科访问每个单词的定义。我怎样才能访问这样一个词的定义?当我用谷歌搜索时,我发现通过解析维基百科转储文件我们可以获得定义。但我不知道如何解析。是否有人可以实现解析器以从转储文件中获取单词的定义。这是唯一的方法吗?方法是真的。

【问题讨论】:

  • 维基百科通常有关于主题的整篇文章,而不仅仅是定义。
  • 但我得到了 1 篇 ieee 论文来解释相同的概念。但他们并没有说如何接受这些定义。维基百科转储文件包含其文章的小描述。 @svick

标签: nlp wikipedia similarity


【解决方案1】:

您无需重新发明轮子。怀卡托大学的研究人员建立了一个非常好的维基百科数据挖掘服务,称为WikipediaMiner

这个包将常规的 Wikipedia 转储转换为 MySql 数据库格式,并提供对 Wikipedia 部分(如文章、消歧页面和超链接)的面向对象的访问。 Wikipedia Miner 还实现了一种算法,用于计算文章之间的语义相关性,Maui 使用该算法来消除文档与 Wikipedia 文章之间的歧义,并用于计算语义特征。

除此之外,他们还公开了各种 API。 例如,如果您想获取Logistic Regression 的定义,只需使用他们的exploreArticle API:

http://wikipedia-miner.cms.waikato.ac.nz/services/exploreArticle?title=logistic%20regression&definition=true

响应 xml 如下所示:

<message service="/services/exploreArticle" id="226631" title="Logistic regression">
<request>
  <param name="title">logistic regression</param>
  <param name="definition">true</param>
</request>
<definition><![CDATA[In <a href="http://www.en.wikipedia.org/wiki/Statistics">statistics</a>, <b>logistic regression</b> (sometimes called the <b>logistic model</b> or <b><a href="http://www.en.wikipedia.org/wiki/Logit">logit</a> model</b>) is used for prediction of the <a href="http://www.en.wikipedia.org/wiki/Probability">probability</a> of occurrence of an event by fitting data to a logit function <a href="http://www.en.wikipedia.org/wiki/Logistic function">logistic curve</a>.]]>
</definition>
</message>

比较单词之间的语义相似度,你可以试试他们的compare API。

例如,比较 kiwitakahe,您使用以下 API 调用:

http://wikipedia-miner.cms.waikato.ac.nz/services/compare?term1=kiwi&term2=takahe&disambiguationDetails&connections&snippets

Here 是有关他们用于相关性度量的算法的更多详细信息。

您还可以托管自己的 wikipediaMiner 服务(详情 here)。 在here 找到更多关于如何使用他们的服务的信息。他们的相关出版物是here

【讨论】:

    【解决方案2】:

    我认为您实际上是在寻找同义词库,而不是维基百科。其中一些可作为机器可读的语料库使用。然而,我不得不承认,文本定义似乎不是确定单词相似度的良好信息来源,除非在某些特殊情况下。

    这些是关于单词相似度测量的大量工作,因此与其重新发明轮子,不如研究最先进的技术和/或工具。 Wikipedia 提到了其中的一些。

    【讨论】:

      猜你喜欢
      • 2014-08-02
      • 2015-09-13
      • 2018-04-12
      • 1970-01-01
      • 2011-06-25
      • 1970-01-01
      • 1970-01-01
      • 2020-09-27
      • 1970-01-01
      相关资源
      最近更新 更多