1.安装 Microsoft Visual C++ 14.0

2.安装scrapyd. 

3.部署项目配置,编辑需要部署的项目的scrapy.cfg文件(需要将哪一个爬虫部署到scrapyd中,就配置该项目的该文件)

 [deploy:爬虫名称(可以自行定义)]
 url = http://localhost:6800/
 project = 项目名(创建爬虫项目时使用的名称)

4.部署命令,
同样在scrapy项目路径下执行:

scrapyd-deploy 爬虫名称 -p 项目名称

5.启动项目

  • 启动项目:curl http://localhost:6800/schedule.json -d project=project_name -d spider=spider_name
  • 关闭爬虫:curl http://localhost:6800/cancel.json -d project=project_name -d job=jobid


相关文章:

  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-11-27
  • 2021-04-24
  • 2021-09-29
  • 2021-10-11
猜你喜欢
  • 2021-05-24
  • 2021-06-01
  • 2022-12-23
  • 2022-01-20
  • 2022-12-23
  • 2022-01-18
  • 2021-08-01
相关资源
相似解决方案