daimubai

image.png

前言

我们先爬些简单点的内容,爬取汽车之家旅行家中的所有游记信息,让我们愉快地开始吧~

开发工具

Python版本:3.6.4
相关模块:

scrapy模块。

环境搭建

安装Python并添加到环境变量,pip安装需要的相关模块即可。

资料推荐

scrapy入门教程:

https://scrapy-chs.readthedocs.io/zh_CN/0.24/intro/tutorial.html

Scrapy框架入门简介:

https://segmentfault.com/a/1190000013178839

原理简介

首先,我们在cmd窗口输入下图所示的命令,从而新建一个爬虫项目:

图片

我们需要爬的网站是:

https://you.autohome.com.cn/index/searchkeyword#pvareaid=2174276&currentView=best

简单抓包就可以发现这个:

图片

那么我们就爬这个。我们可以发现这个ajax请求返回的数据有:

该页所有游记的标题、摘要、日期、浏览量等等。

OK,明确了爬取目标之后,我们就可以开始写代码了。首先,打开爬虫项目里的item.py文件,定义一下我们要爬取的内容:

图片

然后打开setting.py文件,定义一下请求头,并选择不遵守robots协议:

图片

最后,在spiders文件夹内新建一个spider.py文件,并在该文件内编写我们的爬虫代码:

图片

文章到这里就结束了,感谢你的观看,关注我每天分享Python模拟登录系列,下篇文章分享爬取并简单分析安居客租房信息。

分类:

技术点:

相关文章: