Nutch Crawler工作流程:

  1. Injector - 注入
  2. Generator - 产生抓取列表
  3. Fetcher - 从网上抓取网页
  4. Parse Segment - 对抓取的网页进行解析
  5. CrawlDB Update - 把抓取的URL状态和新发现的URL存入Crawl DB
  6. LinkDB invertlinks

在 2-5 步骤循环 topN 次,最后执行 5步骤。

Apache Nutch(二)

 

 

 

相关文章:

  • 2021-08-12
  • 2021-06-17
  • 2021-10-20
  • 2021-08-13
  • 2021-07-14
  • 2021-07-31
  • 2021-05-26
  • 2022-02-07
猜你喜欢
  • 2021-07-09
  • 2021-05-30
  • 2021-05-31
  • 2021-05-24
  • 2021-07-18
  • 2021-06-17
  • 2022-12-23
相关资源
相似解决方案