【发布时间】:2023-02-16 23:18:50
【问题描述】:
我需要我的蜘蛛每分钟都在运行。通常我使用 celery-beat 来安排任务,但是,根据我的阅读,Celery 不与 scrapy 一起使用。
安排 scrapy 蜘蛛的最佳方法是什么?
【问题讨论】:
标签: python scrapy scheduled-tasks worker
我需要我的蜘蛛每分钟都在运行。通常我使用 celery-beat 来安排任务,但是,根据我的阅读,Celery 不与 scrapy 一起使用。
安排 scrapy 蜘蛛的最佳方法是什么?
【问题讨论】:
标签: python scrapy scheduled-tasks worker
Zyte's Scrapy Cloud 与 Scrapy 无缝协作,并具有调度周期性作业的功能。
如果您使用任何类 Unix,另一种选择是 cron。
【讨论】: