【问题标题】:Nutch readlinkdb does not output anythingNutch readlinkdb 不输出任何东西
【发布时间】:2012-10-08 11:42:06
【问题描述】:

我使用 Nutch 1.5 进行爬网(使用 crawl 命令),发布这个 readlinkdb 转储中什么都没有。此外,在索引过滤器中,链接为空。是什么导致内链为空?

【问题讨论】:

    标签: nutch web-crawler


    【解决方案1】:

    也许您只是在索引一个特定的网站。在这种情况下,如果nutch-default.xml 中的db.ignore.internal.links 为真,nutch 将不会存储内部链接。在nutch-site.xml 中将其设置为 false,您的链接数据库将开始增长。

    <property>
      <name>db.ignore.internal.links</name>
      <value>false</value>
      <description>If true, when adding new links to a page, links from
      the same host are ignored.  This is an effective way to limit the
      size of the link database, keeping only the highest quality
      links.
      </description>
    </property>
    

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2014-10-31
      • 1970-01-01
      • 2022-10-13
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2014-10-09
      相关资源
      最近更新 更多