【问题标题】:Scrapy crawl list of linksScrapy抓取链接列表
【发布时间】:2014-05-15 12:10:31
【问题描述】:

我正在抓取一个页面并从 hrefs 中获取链接列表

['www.fundsupermart.co.in/main/fundinfo/viewFund.svdo?sedolnumber=SDM0347','www.fundsupermart.co.in/main/fundinfo/viewFund.svdo?sedolnumber=SDM0346', 'www.fundsupermart.co.in/main/fundinfo/viewFund.svdo?sedolnumber=AXS0229' ....]

是否可以从同一个蜘蛛抓取这些链接?这就像爬虫已经在爬取链接时爬取另一个链接。我不需要代码,只需要一点指导即可。

【问题讨论】:

    标签: python scrapy web-crawler


    【解决方案1】:

    使用CrawlSpider 并为链接列表定义适当的规则?

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2016-01-23
      • 1970-01-01
      • 1970-01-01
      • 2014-02-25
      相关资源
      最近更新 更多