【问题标题】:Database of wikipedia ulrs of Computer Category计算机类别的维基百科 ulrs 数据库
【发布时间】:2014-04-09 11:07:12
【问题描述】:

我们正在构建一个垂直搜索引擎,它将在计算机域上进行搜索。所以,我们想要维基百科中所有属于计算机类别的 URL。有没有这样的数据库可用?如果不是,我们如何从维基百科中获取属于计算机类别的所有 URL?我们只需要 URL 而不是完整的网页。

【问题讨论】:

    标签: search-engine mediawiki wikipedia


    【解决方案1】:

    有没有这样的数据库可用?

    你可以试试http://dbpedia.org

    我们如何从维基百科中获取属于计算机类别的所有 URL?

    检查Categorymembers API。但是,您将需要递归遍历subcategories,并手动过滤掉很多页面。

    【讨论】:

    • 请注意,没有什么可以阻止 MediaWiki 类别进入循环,例如 Cat:ACat:BCat:A,而且正如 @Bergi 指出的那样,您很可能会在类别树中找到很多不相关的类别和页面,以及来自其他命名空间的页面,例如模板。
    • 例如,您会在那棵树上找到aluminum polymer composite、澳大利亚艺术家Simon Pennya template 的变形金刚玩具。
    • 查看属于WikiProject Computing 的文章可能是更好的选择:Category:All Computing articles
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-08-06
    • 1970-01-01
    相关资源
    最近更新 更多