【发布时间】:2014-04-09 11:07:12
【问题描述】:
我们正在构建一个垂直搜索引擎,它将在计算机域上进行搜索。所以,我们想要维基百科中所有属于计算机类别的 URL。有没有这样的数据库可用?如果不是,我们如何从维基百科中获取属于计算机类别的所有 URL?我们只需要 URL 而不是完整的网页。
【问题讨论】:
标签: search-engine mediawiki wikipedia
我们正在构建一个垂直搜索引擎,它将在计算机域上进行搜索。所以,我们想要维基百科中所有属于计算机类别的 URL。有没有这样的数据库可用?如果不是,我们如何从维基百科中获取属于计算机类别的所有 URL?我们只需要 URL 而不是完整的网页。
【问题讨论】:
标签: search-engine mediawiki wikipedia
有没有这样的数据库可用?
你可以试试http://dbpedia.org。
我们如何从维基百科中获取属于计算机类别的所有 URL?
检查Categorymembers API。但是,您将需要递归遍历subcategories,并手动过滤掉很多页面。
【讨论】:
Cat:ACat:BCat:A,而且正如 @Bergi 指出的那样,您很可能会在类别树中找到很多不相关的类别和页面,以及来自其他命名空间的页面,例如模板。
aluminum polymer composite、澳大利亚艺术家Simon Penny 和a template 的变形金刚玩具。