Python爬虫：现学现用xpath爬取豆瓣音乐

痛定思痛。 2024-04-18 03:59 58阅读 0赞

爬虫的抓取方式有好几种，正则表达式，Lxml(xpath)与BeautifulSoup,我在网上查了一下资料，了解到三者之间的使用难度与性能  
三种爬虫方式的对比。  
![在这里插入图片描述][2019090310243196.png]  
这样一比较我我选择了Lxml(xpath)的方式了，虽然有三种方式，但肯定是要选择最好的方式来爬虫，这个道理大家都懂，另外有兴趣的朋友也可以去了解另外两种爬虫方式！

好了现在来讲讲xpath

由于Xpath属于lxml模块，所以首先需要安装lxml库，老办法直接在file–>setting—project interpreter 一键添加lxml库。，如下所示  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 1]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 2]

## xpath简单用法 ##

> from lxml import etree `//从lxml包中导入etree`  
> s=etree.HTML(源码) \#将源码转化为能被XPath匹配的格式  
> s.xpath(xpath表达式) \#返回为一列表,

### 基础语法： ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 3]  
我们这次需要爬取豆瓣音乐前250条

打开豆瓣音乐：https://music.douban.com/top250

## 获取单条数据 ##

#### 1.获取音乐标题 ####

打开网址，按下F12，然后查找标题，右键弹出菜单栏 Copy==> Copy Xpath  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 4]  
这里我们想获取音乐标题，音乐标题的xpath是：`xpath://*[@id="content"]/div/div[1]/div/table[1]/tbody/tr/td[2]/div/a`

# coding:utf-8
    from lxml import etree
    import requests
    
    url = 'https://music.douban.com/top250'
    
    html = requests.get(url).text    #这里一般先打印一下html内容，看看是否有内容再继续。
    s = etree.HTML(html)   #将源码转化为能被XPath匹配的格式
    title = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tbody/tr/td[2]/div/a')
    print title

运行代码：  
居然是空的。！！！  
这里需要注意一下，浏览器复制的xpath只能作参考，因为浏览器经常会在自己里面增加多余的tbody标签，我们需要手动把这个标签删除  
删除中间的/tbody后,是这样的，

title = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tr/td[2]/div/a')

然后我们再运行代码。  
得到：

说明标题被获取到了。  
因为要获取**标题文本**，所以xpath表达式要追加`/text()`  
又因为这个s.xpath返回的是一个集合，且集合中只有一个元素所以我再追加一个\[0\]  
新的表达式：  
`title = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tr/td[2]/div/a/text()')[0] #因为要获取标题，所以我需要这个当前路径下的文本，所以使用/text(),再追加[0]`

重新运行得到结果：  
We Sing. We Dance. We Steal Things.  
正是我们想要的标题。

#### 2.获取音乐评分与评价人数 ####

老办法，先用右键copy评分的xpath

//*[@id="content"]/div/div[1]/div/table[1]/tbody/tr/td[2]/div/div/span[2]

复制评价人数的xpath:

//*[@id="content"]/div/div[1]/div/table[1]/tbody/tr/td[2]/div/div/span[3]

同样的我们要把tbody去掉，然后重新运行代码：

得到：

We Sing. We Dance. We Steal Things.
        9.1 
                    (
                            108214人评价
                    )

#### 3.获取音乐链接 ####

copy标题的xpath: `//*[@id="content"]/div/div[1]/div/table[1]/tbody/tr/td[2]/div/a`  
想获取音乐的链接href，所以我们可以用/@xxx来提取当前路径标签下的属性值

//*[@id="content"]/div/div[1]/div/table[1]/tbody/tr/td[2]/div/a/@href

代码：

# coding:utf-8
    from lxml import etree
    import requests
    
    url = 'https://music.douban.com/top250'
    
    html = requests.get(url).text   #得到该网址的网页页面的html文本
    s = etree.HTML(html)  #将源码转化为能被XPath匹配的格式
    href = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tr/td[2]/div/a/@href')[0]#因为要获取标题，所以我需要这个当前路径下的文本，所以使用/text()
    title = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tr/td[2]/div/a/text()')[0]#因为要获取标题，所以我需要这个当前路径下的文本，所以使用/text()
    score = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tr/td[2]/div/div/span[2]/text()')[0]#因为要获取文本，所以我需要这个当前路径下的文本，所以使用/text()
    numbers = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tr/td[2]/div/div/span[3]/text()')[0]#因为要获取文本，所以我需要这个当前路径下的文本，所以使用/text()
    print href,title,score,numbers

运行代码得到：

https://music.douban.com/subject/2995812/ 
                We Sing. We Dance. We Steal Things.
            9.1 
                        (
                                108215人评价
                        )

#### 4.获取图片地址： ####

找到图片，复制他的xpath地址：

//*[@id="content"]/div/div[1]/div/table[1]/tbody/tr/td[1]/a/img

运行代码：

老套路：  
得到结果:

https://music.douban.com/subject/2995812/ 
                We Sing. We Dance. We Steal Things.
            9.1 
                        (
                                108215人评价
                        )
                     https://img3.doubanio.com/view/subject/s/public/s2967252.jpg

但是这只是获取了一条数据，如果获取多条数据呢？  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 5]  
我们再看第二条数据，第三条数据,第四条数据  
得到他们的xpath:

# coding:utf-8
    from lxml import etree
    import requests
    
    url = 'https://music.douban.com/top250'
    html = requests.get(url).text   #得到该网址的网页页面的html文本
    s = etree.HTML(html)  #将源码转化为能被XPath匹配的格式
    title = s.xpath('//*[@id="content"]/div/div[1]/div/table[1]/tr/td[2]/div/a/text()')[0]#因为要获取标题，所以我需要这个当前路径下的文本，所以使用/text()
    title2 = s.xpath('//*[@id="content"]/div/div[1]/div/table[2]/tr/td[2]/div/a/text()')[0]#因为要获取标题，所以我需要这个当前路径下的文本，所以使用/text()
    title3 = s.xpath('//*[@id="content"]/div/div[1]/div/table[3]/tr/td[2]/div/a/text()')[0]#因为要获取标题，所以我需要这个当前路径下的文本，所以使用/text()
    title4 = s.xpath('//*[@id="content"]/div/div[1]/div/table[4]/tr/td[2]/div/a/text()')[0]#因为要获取标题，所以我需要这个当前路径下的文本，所以使用/text()
    print title,title2,title3,title4

得到 前4个音乐的标题

We Sing. We Dance. We Steal Things.
            Viva La Vida
            华丽的冒险
            范特西

对比他们的xpath，发现只有table序号不一样，我们可以就去掉序号，得到通用的xpath信息：  
运行代码：

运行结果

We Sing. We Dance. We Steal Things.
    Viva La Vida
    华丽的冒险
    范特西
    後。青春期的詩
    是时候
    Lenka
    Start from Here
    旅行的意义
    太阳
    Once (Soundtrack)
    Not Going Anywhere
    American Idiot
    OK
    無與倫比的美麗
    亲爱的...我还不知道
    城市
    O
    Wake Me Up When September Ends
    叶惠美
    七里香
    21
    My Life Will...
    寓言
    你在烦恼什么

其它的信息如：链接地址，评分，评价人数都可以用同样的办法来获取，现在我同时获取多条数据，因为每页数据是25条，所以：  
完整代码如下：

# coding:utf-8
    from lxml import etree
    import requests
    url = 'https://music.douban.com/top250'
    html = requests.get(url).text
    s = etree.HTML(html)
      #下面得到href节点数组，title节点数组，score节点数组等等
    hrefs = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/a/@href')
    titles = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/a/text()')
    scores = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/div/span[2]/text()')
    numbers = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/div/span[3]/text()')
    imgs = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[1]/a/img/@src')
    for i in range(25):
        print hrefs[i],titles[i],scores[i],numbers[i],imgs[i]

执行结果  
一大批数据了，我就不展示了。有兴趣可以直接copy代码运行.,注意你得装上lxml与requests库.

**我们也发现了问题每一个xpath路径特别长，能不能精简一下呢？**

#### 5. 精简一下xpath路径 ####

#下面得到href节点数组对象，title节点数组对象，score节点数组对象等等
    hrefs = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/a/@href')
    titles = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/a/text()')
    scores = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/div/span[2]/text()')
    numbers = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[2]/div/div/span[3]/text()')
    imgs = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr/td[1]/a/img/@src')

观察发现获取几个关键字段的xpath前缀都是 `//*[@id="content"]/div/div[1]/div/table/tr` 那我能不能把这些东西提出来呢，让后面的不同的自己去追加，另外这样写也不用管每个页面到底有多少条数据，只管查就行了。所以代码做了一下精简。

url = 'https://music.douban.com/top250'
    
    html = requests.get(url).text
    s = etree.HTML(html)
    trs = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr')  #先提取tr之前的节点集合
    
    for tr in trs: #遍历trs节点数组
        href = tr.xpath('./td[2]/div/a/@href')[0]  #注意新节点是tr下的节点 
        title = tr.xpath('./td[2]/div/a/text()')[0]
        score = tr.xpath('./td[2]/div/div/span[2]/text()')[0]
        number = tr.xpath('./td[2]/div/div/span[3]/text()')[0]
        img = tr.xpath('./td[1]/a/img/@src')[0]
        print href,title,score,number,img

得到的结果和之前是一样的。

但是，但是，这只是一个页面的数据，我现在想爬取多个页面的数据，怎么办呢？

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 6]  
有没有发现页面只是后面start参数发生了改变，且增长为每次25，并且250条数据正好是10页。  
所以我可以遍历这个页面。  
代码：

for i in range(10):    #下面的{}就是一个占位符，占位符里面的数据是，format()里的数据
    url = 'https://music.douban.com/top250?start={}'.format(i*25)
    print url

得到：

https://music.douban.com/top250?start=0
    https://music.douban.com/top250?start=25
    https://music.douban.com/top250?start=50
    https://music.douban.com/top250?start=75
    https://music.douban.com/top250?start=100
    https://music.douban.com/top250?start=125
    https://music.douban.com/top250?start=150
    https://music.douban.com/top250?start=175
    https://music.douban.com/top250?start=200
    https://music.douban.com/top250?start=225

正是自己要的结果。

好了最后我们把代码拼装在一起，并注意每个方法的用途。

**完整代码**

# coding:utf-8
    from lxml import etree
    import requests
    
    #获取页面地址
    def getUrl():
        for i in range(10):
         url = 'https://music.douban.com/top250?start={}'.format(i*25)
         scrapyPage(url)
    
    
    #爬取每页数据
    def scrapyPage(url):
        html = requests.get(url).text
        s = etree.HTML(html)
        trs = s.xpath('//*[@id="content"]/div/div[1]/div/table/tr')
    
        for tr in trs:
            href = tr.xpath('./td[2]/div/a/@href')[0]
            title = tr.xpath('./td[2]/div/a/text()')[0]
            score = tr.xpath('./td[2]/div/div/span[2]/text()')[0]
            number = tr.xpath('./td[2]/div/div/span[3]/text()')[0]
            img = tr.xpath('./td[1]/a/img/@src')[0]
            print href, title, score, number, img
    
    if  '__main__':
        getUrl()

本文转载自：https://mp.weixin.qq.com/s?\_\_biz=MjM5MTQ4NjA3Nw==&mid=2459678127&idx=1&sn=c5dea6844ef09681757ff5b0facba1cc&chksm=b1dbccbd86ac45ab06d0784e3d328043a7796a8231292ab26be1ac0c1b3aaca006388b2b8110&scene=21\#wechat\_redirect

[2019090310243196.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/1083f5dbb818452aab7bfceb10b1eb98.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/61909060d1bc45cd86537e29d8af83f2.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/f338a3edd30244c0803e7a11f4160204.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 2]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/a845c73526f04867a545a127b1f0f279.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 3]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/bba98f828eb94ddd86529490817273a6.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 4]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/791fb60ac29540a5a1505ee0e86a95b9.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 5]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/1cd62e73140c4e109577c0c0f94920d9.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 6]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/17/4f9794d0f2924fdca1470a5d99497f0b.png