1.settings.py:(配置文件)

scrapy(微博)数据保存到Mongodb

②UserAgent配置放开

scrapy(微博)数据保存到Mongodb

③Mongo配置放开

scrapy(微博)数据保存到Mongodb

④Mongo配置

scrapy(微博)数据保存到Mongodb


2.middlewares.py

中间件配置(useragent, proxy, cookies)

scrapy(微博)数据保存到Mongodb

scrapy(微博)数据保存到Mongodb



3.spiders(逻辑)

scrapy(微博)数据保存到Mongodb



4.items.py

scrapy(微博)数据保存到Mongodb


5.pipelines.pyscrapy(微博)数据保存到Mongodb

6.debug(运行)

scrapy(微博)数据保存到Mongodb

相关文章: