【问题标题】:What's the best way to schedule a Scrapy spider?安排 Scrapy 蜘蛛的最佳方式是什么?
【发布时间】:2023-02-16 23:18:50
【问题描述】:

我需要我的蜘蛛每分钟都在运行。通常我使用 celery-beat 来安排任务,但是,根据我的阅读,Celery 不与 scrapy 一起使用。

安排 scrapy 蜘蛛的最佳方法是什么?

【问题讨论】:

    标签: python scrapy scheduled-tasks worker


    【解决方案1】:

    Zyte's Scrapy Cloud 与 Scrapy 无缝协作,并具有调度周期性作业的功能。

    如果您使用任何类 Unix,另一种选择是 cron

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2018-11-29
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多