【发布时间】:2012-10-08 11:42:06
【问题描述】:
我使用 Nutch 1.5 进行爬网(使用 crawl 命令),发布这个 readlinkdb 转储中什么都没有。此外,在索引过滤器中,链接为空。是什么导致内链为空?
【问题讨论】:
标签: nutch web-crawler
我使用 Nutch 1.5 进行爬网(使用 crawl 命令),发布这个 readlinkdb 转储中什么都没有。此外,在索引过滤器中,链接为空。是什么导致内链为空?
【问题讨论】:
标签: nutch web-crawler
也许您只是在索引一个特定的网站。在这种情况下,如果nutch-default.xml 中的db.ignore.internal.links 为真,nutch 将不会存储内部链接。在nutch-site.xml 中将其设置为 false,您的链接数据库将开始增长。
<property>
<name>db.ignore.internal.links</name>
<value>false</value>
<description>If true, when adding new links to a page, links from
the same host are ignored. This is an effective way to limit the
size of the link database, keeping only the highest quality
links.
</description>
</property>
【讨论】: