【问题标题】:How to pass data to scrapinghub?如何将数据传递给scrapinghub?
【发布时间】:2017-01-08 16:25:28
【问题描述】:

我正在尝试在 scrapinghub 上运行一个 scrapy spider,并且我想传入一些数据。我正在使用他们的 API 来运行蜘蛛:

http://doc.scrapinghub.com/api/jobs.html#jobs-run-json

他们有job_settings 的选项,这似乎很相关,但我不知道如何访问我的Spider 类中的job_settings 数据。这里的正确方法是什么?

【问题讨论】:

    标签: python scrapy scrapinghub


    【解决方案1】:

    job_settings 应直接合并到Scrapy settings,具有更高的优先级(40,IIRC)。

    可以通过蜘蛛实例的.settings 属性访问 Scrapy 设置,例如如果selfscrapy.Spider 实例,您可以使用self.settings

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2010-10-22
      • 2021-05-29
      • 2019-05-08
      • 2014-04-12
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多