爬虫常用正则
爬虫经常用到的一些正则，这可以帮助我们更好地处理字符。
正则符
单字符
. : 除换行以外所有字符 [] ：[aoe] [a-w] 匹配集合中任意一个字符 \d ：数字 [0-9] \D : 非数字 \w ：数字、字母、下划线、中文 \W : 非\w \s ：所有的空白字符包,括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v] \S : 非空白
数量修饰
* : 任意多次 >=0 + : 至少1次 >=1 ? : 可有可无 0次或者1次 {m} ：固定m次 hello{3,} {m,} ：至少m次 {m,n} ：m-n次
边界
$ : 以某某结尾
^ : 以某某开头
分组
(ab)
贪婪模式
.*
非贪婪惰性模式
.*?
# 1 提取出python \'\'\' key = \'javapythonc++php\' re.findall(\'python\',key) re.findall(\'python\',key)[0] \'\'\' # 2 提取出 hello word \'\'\' key = \'<html><h1>hello word</h1></html>\' print(re.findall(\'<h1>.*</h1>\', key)) print(re.findall(\'<h1>(.*)</h1>\', key)) print(re.findall(\'<h1>(.*)</h1>\', key)[0]) \'\'\' # 3 提取170 \'\'\' key = \'这个女孩身高170厘米\' print(re.findall(\'\d+\', key)[0]) \'\'\' # 4 提取出http://和https:// \'\'\' key = \'http://www.baidu.com and https://www.cnblogs.com\' print(re.findall(\'https?://\', key)) \'\'\' # 5 提取出 hello \'\'\' key = \'lalala<hTml>hello</HtMl>hahaha\' # 输出的结果<hTml>hello</HtMl> print(re.findall(\'<[hH][tT][mM][lL]>.*[/hH][tT][mM][lL]>\',key)) \'\'\' # 6 提取hit. 贪婪模式;尽可能多的匹配数据 \'\'\' key = \'qiang@hit.edu.com\' # 加?是贪婪匹配,不加?是非贪婪匹配 print(re.findall(\'h.*?\.\', key)) \'\'\' # 7 匹配出所有的saas和sas \'\'\' key = \'saas and sas and saaas\' print(re.findall(\'sa{1,2}s\',key)) \'\'\' # 8 匹配出 i 开头的行 \'\'\' key = """fall in love with you i love you very much i love she i love her """ print(re.findall(\'^i.*\', key, re.M)) \'\'\' # 9 匹配全部行 \'\'\' key = """ <div>细思极恐 你的队友在看书, 你的闺蜜在减肥, 你的敌人在磨刀, 隔壁老王在练腰. </div> """ print(re.findall(\'.*\', key, re.S)) \'\'\'
re.findall 使用
1、re.findall 可以对多行进行匹配，并依据参数作出不同结果。
re.findall(取值,值,re.M) - re.M ：多行匹配 - re.S ：单行匹配 如果分行则显示/n - re.I : 忽略大小写 - re.sub(正则表达式, 替换内容, 字符串)