【发布时间】:2021-05-30 18:25:07
【问题描述】:
我要做的任务是打印scrapy发送的请求头。我在如何使用scrapy中间件上有些磕磕绊绊。
我在项目settings.py文件中激活了下载器中间件。
DOWNLOADER_MIDDLEWARES = {
'CarDataPull.middlewares.CardatapullDownloaderMiddleware': 543,
}
然后,我在middlewares.py 文件中的函数process_request 中添加了以下几行。
print('I was here')
with open('request_header.txt', 'wb') as a:
a.write(request)
我看不到任何激活此功能的迹象。
谁能告诉我如何激活该特定功能?或者还有其他打印请求头的方法吗?
【问题讨论】:
标签: python web-scraping scrapy