前言
我们先爬些简单点的内容,爬取汽车之家旅行家中的所有游记信息,让我们愉快地开始吧~
开发工具
Python版本:3.6.4
相关模块:
scrapy模块。
环境搭建
安装Python并添加到环境变量,pip安装需要的相关模块即可。
资料推荐
scrapy入门教程:
https://scrapy-chs.readthedocs.io/zh_CN/0.24/intro/tutorial.html
Scrapy框架入门简介:
https://segmentfault.com/a/1190000013178839
原理简介
首先,我们在cmd窗口输入下图所示的命令,从而新建一个爬虫项目:
我们需要爬的网站是:
https://you.autohome.com.cn/index/searchkeyword#pvareaid=2174276¤tView=best
简单抓包就可以发现这个:
那么我们就爬这个。我们可以发现这个ajax请求返回的数据有:
该页所有游记的标题、摘要、日期、浏览量等等。
OK,明确了爬取目标之后,我们就可以开始写代码了。首先,打开爬虫项目里的item.py文件,定义一下我们要爬取的内容:
然后打开setting.py文件,定义一下请求头,并选择不遵守robots协议:
最后,在spiders文件夹内新建一个spider.py文件,并在该文件内编写我们的爬虫代码:
文章到这里就结束了,感谢你的观看,关注我每天分享Python模拟登录系列,下篇文章分享爬取并简单分析安居客租房信息。