【零基础学爬虫】正则表达式

忘是亡心i 2022-04-24 07:20 173阅读 0赞

# 1. 什么是正则表达式 #

正则表达式是对字符串串操作的⼀一种逻辑公式，就是⽤用事先定义好的⼀一些特定  
字符、及这些特定字符的组合，组成⼀一个“规则字符串串”，这个“规则字符串串”⽤用  
来表达对字符串串的⼀一种过滤逻辑。

###### 非Python独有，python中对应的是re模块 ######

介绍一个**测试正则表达式**的网站(该网站功能比较多)：  
[正则表达式的测试网站][Link 1]  
![网站截图][1240]  
正则表达式功能比较强大，大部分编程语言都有提供对应的包  
\#2. re.match

<table> 
 <thead> 
  <tr> 
   <th align="center">模式</th> 
   <th>描述</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td align="center">\w</td> 
   <td>匹配字母数字及下划线</td> 
  </tr> 
  <tr> 
   <td align="center">\W</td> 
   <td>匹配非字母数字下划线</td> 
  </tr> 
  <tr> 
   <td align="center">\s</td> 
   <td>匹配任意空白字符，等价于 [\t\n\r\f].</td> 
  </tr> 
  <tr> 
   <td align="center">\S</td> 
   <td>匹配任意非空字符</td> 
  </tr> 
  <tr> 
   <td align="center">\d</td> 
   <td>匹配任意数字，等价于 [0-9]</td> 
  </tr> 
  <tr> 
   <td align="center">\D</td> 
   <td>匹配任意非数字</td> 
  </tr> 
  <tr> 
   <td align="center">\A</td> 
   <td>匹配字符串开始</td> 
  </tr> 
  <tr> 
   <td align="center">\Z</td> 
   <td>匹配字符串结束，如果是存在换行，只匹配到换行前的结束字符串</td> 
  </tr> 
  <tr> 
   <td align="center">\z</td> 
   <td>匹配字符串结束</td> 
  </tr> 
  <tr> 
   <td align="center">\G</td> 
   <td>匹配最后匹配完成的位置</td> 
  </tr> 
  <tr> 
   <td align="center">\n</td> 
   <td>匹配一个换行符</td> 
  </tr> 
  <tr> 
   <td align="center">\t</td> 
   <td>匹配一个制表符</td> 
  </tr> 
  <tr> 
   <td align="center">^</td> 
   <td>匹配字符串的开头</td> 
  </tr> 
  <tr> 
   <td align="center">$</td> 
   <td>匹配字符串的末尾。</td> 
  </tr> 
  <tr> 
   <td align="center">.</td> 
   <td>匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符。</td> 
  </tr> 
  <tr> 
   <td align="center">[…]</td> 
   <td>用来表示一组字符,单独列出：[amk] 匹配 ‘a’，‘m’或’k’</td> 
  </tr> 
  <tr> 
   <td align="center">[^…]</td> 
   <td>不在[]中的字符：[^abc] 匹配除了a,b,c之外的字符。</td> 
  </tr> 
  <tr> 
   <td align="center">*</td> 
   <td>匹配0个或多个的表达式。</td> 
  </tr> 
  <tr> 
   <td align="center">+</td> 
   <td>匹配1个或多个的表达式。</td> 
  </tr> 
  <tr> 
   <td align="center">?</td> 
   <td>匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式</td> 
  </tr> 
  <tr> 
   <td align="center">{n}</td> 
   <td>精确匹配n个前面表达式。</td> 
  </tr> 
  <tr> 
   <td align="center">{n,m}</td> 
   <td>匹配 n 到 m 次由前面的正则表达式定义的片段，贪婪方式</td> 
  </tr> 
  <tr> 
   <td align="center">a|b</td> 
   <td>匹配a或b</td> 
  </tr> 
  <tr> 
   <td align="center">( )</td> 
   <td>匹配括号内的表达式，也表示一个组</td> 
  </tr> 
 </tbody> 
</table>

> 正则表达式有一些很明显的特点：比如：大小写字母匹配的内容具有互斥的特点  
> 另外，在正则表达式中：“\{\}”表示重复匹配，“()”表示分组

**re.match**  
re.match 尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match()就返回none。

> re.match(pattern, string, flags=0)

下面届通过实例，形象的介绍正则表达式：

### (1) 精准匹配 ###

import re
    
    content = 'Hello 123 4567 World_This is a Regex Demo'
    print(len(content))
    #\s:匹配任意空格字符 \d：数字 \d{4}:匹配4个数字 \w{10}:匹配10个字母数字下划线
    # .匹配任意字符 *匹配0个多个前面的表达式 .*就是匹配任意非换行符的字符 $:以它之前的表达式结尾
    result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$', content)
    print(result)
    print(result.group())#匹配到的内容
    print(result.span())#匹配到的字符串区间范围

### (2) 泛匹配： ###

import re
    
    content = 'Hello 123 4567 World_This is a Regex Demo'
    result = re.match('^Hello.*Demo$', content)
    print(result)
    print(result.group())
    print(result.span())

### (3) 匹配某一个目标字符串： ###

import re
    
    content = 'Hello 1234567 World_This is a Regex Demo'
    result = re.match('^Hello\s(\d+)\sWorld.*Demo$', content)
    print(result)
    print(result.group(1))#输出的是第一个()中正则表达式匹配到的字符串，即目标字符
    print(result.span())

### (4) 贪婪匹配 ###

当正则表达式中有“.*”时，“.*”会尽可能的匹配更多的字符，示例如下：

import re
    
    content = 'Hello 1234567 World_This is a Regex Demo'
    #'+'匹配的是1个或多个字符，根据贪婪匹配规则，123456‘六个数字会被.*’匹配
    result = re.match('^He.*(\d+).*Demo$', content)
    print(result)
    print(result.group(1))#输出的是“7”，而不是“1234567”

所以，贪婪模式可能导致最后的结果缺少一些字符

### (5) 非贪婪匹配 ###

使得‘.*’尽可能匹配少的字符，即在‘.*’后加上一个‘？’即可，‘？’指定为非贪婪匹配

import re
    
    content = 'Hello 1234567 World_This is a Regex Demo'
    result = re.match('^He.*?(\d+).*Demo$', content)
    print(result)
    print(result.group(1))

### (6) 匹配模式 ###

content = '''Hello 1234567 World_This#这里有个换行符，而'.*'一般是不能匹配换行符的 is a Regex Demo '''
    #指定匹配模式后‘.*’可以匹配任何字符
    result = re.match('^He.*?(\d+).*?Demo$', content, re.S)
    print(result.group(1))

### (7) 转义 ###

import re
    
    content = 'price is $5.00'
    result = re.match('price is \$5\.00', content)#关键词要转义
    print(result)

### (8) 总结 ###

上面就是常用正则表达式的使用，总结：  
1.\*\*尽量使用泛匹配  
2. **使用括号得到匹配目标**  
3. **尽量使用非贪婪模式**  
4. **有换行符就用re.S**  
5.**re.match必须从第一个字符开始匹配，如果第一个字符匹配不上，就返回None**

> html中的换行符很多  
> re.serch比re.match更好用

# 2. re.search #

re.search是扫描整个字符串，返回第一个成功的匹配。  
re.match示例

import re
    
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    result = re.match('Hello.*?(\d+).*?Demo', content)
    #由于match没有匹配上content中的第一个字符串，所以结果是None
    print(result)

re.search示例

import re
    
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    result = re.search('Hello.*?(\d+).*?Demo', content)
    print(result)
    print(result.group(1))

所以：**尽量使用re.search**

\#3.re.search实战演练  
匹配出下面html中的：齐秦 往事随风

import re
    html = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a> </li> </ul> </div>'''
    result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
    if result:
        print(result.group(1), result.group(2))

注意：re.search是返回的是第一个匹配到的字符串，比如下面的案例：

import re
    
    html = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君">但愿人长久</a> </li> </ul> </div>'''
    result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
    if result:
        print(result.group(1), result.group(2))

上面打印的是：***任贤齐 沧海一声笑***  
为了体现出**re.S**的作用，我们把**re.S**去掉试试

import re
    
    html = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君">但愿人长久</a> </li> </ul> </div>'''
    result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
    if result:
        print(result.group(1), result.group(2))

上面打印的是：***beyond 光辉岁月***

# 4. re.findall #

**搜索字符串，以列表形式返回全部能匹配的子串。**  
下面是具体的实例：

import re
    
    html = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君">但愿人长久</a> </li> </ul> </div>'''
    ＃使用非贪婪模式
    results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
    print(results)
    print(type(results))
    for result in results:
        print(result)#list类型
        print(result[0], result[1], result[2])

**执行结果**：

> \[(’/2.mp3’, ‘任贤齐’, ‘沧海一声笑’), (’/3.mp3’, ‘齐秦’, ‘往事随风’), (’/4.mp3’, ‘beyond’, ‘光辉岁月’), (’/5.mp3’, ‘陈慧琳’, ‘记事本’), (’/6.mp3’, ‘邓丽君’, ‘但愿人长久’)\]  
> 　  
> <class ‘list’>  
> 　　  
> (’/2.mp3’, ‘任贤齐’, ‘沧海一声笑’)  
> /2.mp3 任贤齐 沧海一声笑　  
> 　  
> (’/3.mp3’, ‘齐秦’, ‘往事随风’)  
> /3.mp3 齐秦 往事随风  
> 　  
> (’/4.mp3’, ‘beyond’, ‘光辉岁月’)　  
> /4.mp3 beyond 光辉岁月  
> 　  
> (’/5.mp3’, ‘陈慧琳’, ‘记事本’)  
> /5.mp3 陈慧琳 记事本  
> 　  
> (’/6.mp3’, ‘邓丽君’, ‘但愿人长久’)  
> /6.mp3 邓丽君 但愿人长久

但是上面的“一路有你”那首歌没有检测出来，那么如何匹配出所有的歌名呢？

#前面代码不变
    results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>', html, re.S)
    print(results)
    for result in results:
        print(result[1])

> 注意：  
> 后边多一个？表示懒惰模式，即‘.*’匹配尽可能少的字符。  
> 必须跟在*或者+后边用

# 5. re.sub #

**替换字符串中每一个匹配的子串后返回替换后的字符串。**

import re
    
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    #正则表达式匹配到的字符串使用'replace'代替，返回替换后的字符串
    content = re.sub('\d+', 'replace', content)
    print(content)
    # 输出：Extra stings Hello replace World_This is a Regex Demo Extra stings

如果替换时需要使用到匹配到的原字符串：

import re
    
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    content = re.sub('(\d+)', r'\1 8910', content)#\1:表示的就是匹配到的字符串
    print(content)
    #输出：Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings

这个替换操作很有用，尤其是在提取之前，可以屏蔽部分小的差异，例如

import re
    
    html = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君">但愿人长久</a> </li> </ul> </div>'''
    html = re.sub('<a.*?>|</a>', '', html)#'|'表示OR，匹配‘|’之前的或之后的表达式
    print(html)
    results = re.findall('<li.*?>(.*?)</li>', html, re.S)
    print(results)
    for result in results:
        print(result.strip())

![匹配的结果][1240 1]  
执行后的结果：

<div id="songs-list">
        <h2 class="title">经典老歌</h2>
        <p class="introduction">
            经典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                沧海一声笑
            </li>
            <li data-view="4" class="active">
                往事随风
            </li>
            <li data-view="6">光辉岁月</li>
            <li data-view="5">记事本</li>
            <li data-view="5">
                但愿人长久
            </li>
        </ul>
    </div>

在替换后的基础上，匹配所有歌曲就显得很简单了，只需要在替换后的基础上添加下面代码就可以了：

results = re.findall('<li.*?>(.*?)</li>', html, re.S)
    print(results)
    for result in results:
        print(result.strip())#去掉多余的空格

# 6. re.compile #

**将正则字符串编译成正则表达式对象(方便复用)**

content = '''Hello 1234567 World_This is a Regex Demo'''
    pattern = re.compile('Hello.*Demo', re.S)#定义正则
    result = re.match(pattern, content)#使用正则，方便重复使用
    print(result)

# 7. 实战，爬取豆瓣主页所有的书名 #

分析：chrome浏览器打开豆瓣首页，对源码进行分析  
![1240 2][]

总体思路：先匹配“li”标签，之后定位“div”获取图书：作者，超链接、日期等数据

import requests
    import re
    content = requests.get('https://book.douban.com/').text
    pattern = re.compile('<li.*?cover.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>', re.S)
    results = re.findall(pattern, content)
    for result in results:
        url, name, author, date = result
        author = re.sub('\s', '', author)#也可以使用strip()方法去除 空字符串
        date = re.sub('\s', '', date)
        print(url, name, author, date)

下图是上面代码爬取的数据：  
![爬虫.jpg][.jpg]

--------------------

扫描下方二维码，**及时**获取更多**互联网求职面经**、**java**、**python**、**爬虫**、**大数据**等技术，和**海量资料分享**：公众号后台回复“**csdn**”即可免费领取【csdn】和【百度文库】下载服务；公众号后台回复“**资料**”:即可领取**5T精品学习资料**、**java面试考点**和**java面经总结**，以及**几十个java、大数据项目**，**资料很全，你想找的几乎都有**  
![扫码关注，及时获取更多精彩内容。（博主今日头条大数据工程师）][1240 3]

[Link 1]: http://tool.oschina.net/regex
[1240]: /images/20220218/4aeba73fa57442da927820bcf69ea12e.png
[1240 1]: /images/20220218/a819148dda184c54a61bfefda707d1f4.png
[1240 2]: /images/20220218/63f576d610a849a98cf457f6e581d0c0.png
[.jpg]: /images/20220218/eb4a0ba66201486188eec37ecd121abe.png
[1240 3]: /images/20220218/4c1204f789e9427abf5a3a2473d7dc65.png