网络爬虫之所以能够不断找到新的网页,是因为它能够从已经爬取的页面中,提取出未爬取的超链接,但是当爬虫开启的时候,是没有已知网页的。所以我们需要告诉爬虫至少1个url,让爬虫通过爬取这个url对应的网页,来找到新的网页(通过超链接抽取)。

对于广度遍历来说,种子就是树的树根(森林的树根集合)。

例如下图,对http://www.apache.org/进行爬取,http://www.apache.org/就是种子。

WebCollector爬虫的种子


一般把爬虫的种子设为网站的首页。

相关文章:

  • 2022-12-23
  • 2022-12-23
  • 2021-04-17
  • 2022-12-23
  • 2021-11-29
  • 2021-07-15
  • 2022-03-03
  • 2022-12-23
猜你喜欢
  • 2022-01-13
  • 2022-12-23
  • 2021-05-06
  • 2022-12-23
  • 2022-01-07
  • 2022-12-23
  • 2021-07-26
相关资源
相似解决方案