【Python3爬虫】斗鱼弹幕爬虫

「爱情、让人受尽委屈。」 2022-03-28 04:40 349阅读 0赞

在网上找到了一份[斗鱼弹幕服务器第三方接入协议v1.6.2][v1.6.2]，有了第三方接口，做起来就容易多了。

# 一、协议分析 #

斗鱼后台协议头设计如下：

![1450803-20190108170630686-960876636.png][]

这里的消息长度是我们发送的数据部分的长度和头部的长度之和，两个消息长度是一样。然后要注意的是该协议使用的是[小端整数][Link 1]，所以我们要对数据进行处理后再发送，这里可以使用int.to\_bytes()将整数转变成小端整数的形式。示例如下：

> int.to\_bytes(12,4,'little')   \# b'\\x0c\\x00\\x00\\x00'
> 
> int.to\_bytes(12,4,'big')     \# b'\\x00\\x00\\x00\\x0c'

然后消息类型是689（689表示客户端发送给服务器，690表示服务器发送给客户端），加密字段和保留字段都是默认为0。这里由于消息类型是两个字节的，加密字段和保留字段都是一个字节，但是因为加密字段和保留字段都是0，所以这四个字节可以使用int.to\_bytes(689,4,'little')来表示。最后该协议使用的是utf-8编码，所以我们需要对整个数据进行编码后再发送。

# 二、具体步骤 #

## 1、连接服务器 ##

第三方客户端通过 TCP 协议连接到弹幕服务器(依据指定的 IP 和端口)，其中IP 地址为openbarrage.douyutv.com，端口为8601，相关代码如下：

client = socket.socket(socket.AF_INET, socket.SOCK_STREAM)<br>host = socket.gethostbyname("openbarrage.douyutv.com")<br>port = 8601<br>client.connect((host, port))

## 2、发送登录请求 ##

客户端向弹幕服务器发送登录请求，登录弹幕服务器，格式如下：

> type@=loginreq/roomid@=房间号/

## 3、发送加组请求 ##

客户端收到登录成功消息后发送进入弹幕分组请求给弹幕服务器，格式如下：

> type@=joingroup/rid@=房间号/gid@=-9999/

gid表示分组号，第三方平台建议选择-9999即海量弹幕模式。

## 4、接收广播消息 ##

接收服务器发送的广播消息，包括用户发的弹幕和送的礼物信息，然后解析得到具体的内容。但这些数据里只有礼物的id而没有具体的礼物名称，然后我通过抓包找到了两个链接，里面包含了礼物id和名称的对应关系，相关代码如下：

1 gift_dict = {}
     2 headers = {
     3     "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.75 Safari/537.36"
     4 }
     5 url1 = "https://webconf.douyucdn.cn/resource/common/gift/flash/gift_effect.json"
     6 res1 = requests.get(url1, headers=headers)
     7 js1 = json.loads(res1.text.lstrip('DYConfigCallback(').rstrip(');'))
     8 gift_data1 = js1['data']['flashConfig']
     9 for i in gift_data1.keys():
    10     gift_dict[gift_data1[i]['id']] = gift_data1[i]['name']
    11 
    12 url2 = "https://webconf.douyucdn.cn/resource/common/prop_gift_list/prop_gift_config.json"
    13 res2 = requests.get(url2, headers=headers)
    14 js2 = json.loads(res2.text.lstrip('DYConfigCallback(').rstrip(');'))
    15 gift_data2 = js2['data']
    16 for i in gift_data2.keys():
    17     gift_dict[int(i)] = gift_data2[i]['name']

## 5、发送心跳消息 ##

客户端每隔45秒给服务器发送一次心跳消息，用于维护和服务器后台间的联系，格式如下：

keep_msg = "type@=keeplive/tick@=十位时间戳"  # 旧版心跳消息<br>keep_msg = "mrkl/"  # 新版心跳消息

## 6、核心代码 ##

在发送数据的时候，有可能会出现一次无法发送完的情况，所以就需要多发送几次，确保把数据都发送出去：

1 msg = msg + '\0'  # 数据以'\0'结尾
     2 msg = msg.encode('utf-8')  # 使用utf-8编码
     3 length = len(msg) + 8  # 消息长度
     4 code = 689  # 消息类型
     5 # 消息头部：消息长度+消息长度+消息类型+加密字段(默认为0)+保留字段(默认为0)
     6 head = int.to_bytes(length, 4, 'little') + int.to_bytes(length, 4, 'little') + int.to_bytes(code, 4, 'little')
     7 # 发送头部部分
     8 client.send(head)
     9 # 发送数据部分
    10 sent = 0
    11 while sent < len(msg):
    12     n = client.send(msg[sent:])  # 返回已发送的数据长度
    13     sent = sent + n

# 三、运行结果 #

运行截图：

![1450803-20190109140844273-1901630760.png][]

进入数据库查看结果：

> db.getCollection('DouYu-6039226').find(\{"data\_type":"gift"\})

结果如下：

![1450803-20190109141539417-1092873135.png][]

还可以看看大家都发了什么弹幕：

> db.getCollection('DouYu-6039226').find(\{"data\_type":"chat"\},\{"user\_name":1,"chat\_txt":1,"\_id":0\})

结果如下：

![1450803-20190109141954800-420917403.png][]

完整代码已上传到[GitHub][]！

原文地址：[https://www.cnblogs.com/TM0831/p/10240078.html][https_www.cnblogs.com_TM0831_p_10240078.html]

[v1.6.2]: http://dev-bbs.douyutv.com/forum.php?mod=attachment&aid=MjkxfDc0MjFlMTUzfDE1NDY4NDQyNjV8MHwzOTk%3D
[1450803-20190108170630686-960876636.png]: /images/20220328/ee6e2311010d48cea07727fb8e8af4ce.png
[Link 1]: https://baike.baidu.com/item/%E5%A4%A7%E5%B0%8F%E7%AB%AF%E6%A8%A1%E5%BC%8F/6750542?fr=aladdin
[1450803-20190109140844273-1901630760.png]: /images/20220328/e3d5b2ceb08b4276836af59c0db94ad6.png
[1450803-20190109141539417-1092873135.png]: /images/20220328/d98b59ecc4644644942b25e60487d9a2.png
[1450803-20190109141954800-420917403.png]: /images/20220328/d83901c2db73404ba55423b039dfb98e.png
[GitHub]: https://github.com/TM0831/Spiders/tree/master/DouYu
[https_www.cnblogs.com_TM0831_p_10240078.html]: https://www.cnblogs.com/TM0831/p/10240078.html