Python实战教程讲解：爬起腾讯课堂视频，优质课程随你挑选

雨点打透心脏的1/2处 2022-12-30 03:41 261阅读 0赞

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理

以下文章来源于**青灯编程** ，作者：清风

![7f6e7623e830bc71e0e1c8e852325b4f.png][]

**私信回复“资料”，即可免费领取Python实战案例讲解视频**

**Python爬取B站视频，只需一个B站视频地址，即可任意下载，观看地址：**

https://www.bilibili.com/video/BV1LX4y1u7VA/

# 前言 #

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

# 基本开发环境 #

*  Python 3.6
 *  Pycharm

# 相关模块的使用 #

import jieba
    import wordcloud
    import time
    import requests

# 目标网页分析 #

今天就爬取青灯教育免费公开课的课程评价

网站地址：

https://ke.qq.com/course/384363?taid=10654594091048299&tuin=8aa5eb27

![93afab7f155b574f494bef124de4b9b4.png][]

# 如何获取课程评价？ #

打开开发者工具（F12或者鼠标右键点击检查），复制评价，在开发者工具当中进行搜索。

![86bdf419454ce8030e0a87f33393afc2.png][]

这个接口数据有10条评价，一页评价也是10条评论，所以只需要请求这个链接，再通过json数据，字典取值的方式提取评价内容即可。

# 如何实现多页爬取 #

**第一页评价数据接口参数**

![4f76a1899c3b3387eac5391bac95ee4e.png][]

**第二页评价数据接口参数**

![beb4a2316b7dc13710e3960265d38338.png][]

通过对比可得：page参数的变化，对应的是页码数。构建for循环即可实现多页爬取效果。

# 爬虫实现代码 #

**注意点：**

**headers 参数需要添加 referer 防盗链，不然获取不到数据**

import time
    import requests
    
    for page in range(0, 23):
        time.sleep(1)
        url = 'https://ke.qq.com/cgi-bin/comment_new/course_comment_list'
    
        headers = {
            'referer': 'https://ke.qq.com/course/384363?taid=10654585501113707&tuin=8aa5eb27',
            'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
        }
        params = {
            'cid': '384363',
            'count': '10',
            'page': page,
            'filter_rating': '0',
            'bkn': '1905043087',
            'r': '0.30477140651006174',
        }
    
        response = requests.get(url=url, params=params, headers=headers)
        html_data = response.json()
    
        result = html_data['result']['items']
        for i in result:
            comment = i['first_comment']
            with open('评价.txt', mode='a', encoding='utf-8') as f:
                f.write(comment)
                f.write('\n')
                print(comment)
    
    词云实现代码
    
    import jieba
    import wordcloud
    
    # 读取文件内容
    f = open(r'D:\python\demo\腾讯课堂评价\评价.txt', encoding='utf-8')
    txt = f.read()
    
    # jieba 分词 分割词汇
    txt_list = jieba.lcut(txt)
    string = ' '.join(txt_list)
    # 词云图设置
    wc = wordcloud.WordCloud(
            width=1000,         # 图片的宽
            height=700,         # 图片的高
            background_color='white',   # 图片背景颜色
            font_path='msyh.ttc',    # 词云字体
            # mask=py,     # 所使用的词云图片
            scale=15,
            stopwords={'老师'},       # 停用词
            # contour_width=5,
            # contour_color='red'  # 轮廓颜色
    )
    # 给词云输入文字
    wc.generate(string)
    # 词云图保存图片地址
    wc.to_file(r'D:\python\demo\腾讯课堂评价\out.png')

![443791020905dae30c3685bf9f083cc5.png][]

![df2abef13f6f9b2332f34f55cbda342d.png][]

[7f6e7623e830bc71e0e1c8e852325b4f.png]: /images/20221120/4666f78423d34617ae8ed14a029c2ec2.png
[93afab7f155b574f494bef124de4b9b4.png]: https://img-blog.csdnimg.cn/img_convert/93afab7f155b574f494bef124de4b9b4.png
[86bdf419454ce8030e0a87f33393afc2.png]: https://img-blog.csdnimg.cn/img_convert/86bdf419454ce8030e0a87f33393afc2.png
[4f76a1899c3b3387eac5391bac95ee4e.png]: https://img-blog.csdnimg.cn/img_convert/4f76a1899c3b3387eac5391bac95ee4e.png
[beb4a2316b7dc13710e3960265d38338.png]: https://img-blog.csdnimg.cn/img_convert/beb4a2316b7dc13710e3960265d38338.png
[443791020905dae30c3685bf9f083cc5.png]: https://img-blog.csdnimg.cn/img_convert/443791020905dae30c3685bf9f083cc5.png
[df2abef13f6f9b2332f34f55cbda342d.png]: https://img-blog.csdnimg.cn/img_convert/df2abef13f6f9b2332f34f55cbda342d.png