【发布时间】:2021-06-07 04:01:57
【问题描述】:
我一直在尝试使用 scrapy-crawlera 作为使用 scrapy 抓取一些数据的代理。我在 settings.py 中添加了这些行:
DOWNLOADER_MIDDLEWARES = { 'scrapy_crawlera.CrawleraMiddleware': 610, }
CRAWLERA_ENABLED = True
CRAWLERA_APIKEY = 'MY_CRAWLERA_API_KEY'
在新更改的 scrapinghub 网站 app.zyte.com 中,我创建了一个智能代理管理器帐户,我的 api 密钥来自我的帐户设置。
我收到此警告 WARNING: Retrying crawlera request for authentication issue 并且网站没有被抓取。
是不是我做错了什么?
【问题讨论】:
-
好吧,您完全按照文档进行操作,因此您的 api 密钥似乎无效,或者 Zyte 存在问题。我会联系 Zyte 支持。
标签: python web-scraping scrapy scrapinghub crawlera