【Python3爬虫】斗鱼弹幕爬虫

在网上找到了一份斗鱼弹幕服务器第三方接入协议v1.6.2，有了第三方接口，做起来就容易多了。

 

一、协议分析

斗鱼后台协议头设计如下：

 

这里的消息长度是我们发送的数据部分的长度和头部的长度之和，两个消息长度是一样。然后要注意的是该协议使用的是小端整数，所以我们要对数据进行处理后再发送，这里可以使用int.to_bytes()将整数转变成小端整数的形式。示例如下：

int.to_bytes(12,4,'little')   # b'\x0c\x00\x00\x00'

int.to_bytes(12,4,'big')     # b'\x00\x00\x00\x0c'

然后消息类型是689（689表示客户端发送给服务器，690表示服务器发送给客户端），加密字段和保留字段都是默认为0。这里由于消息类型是两个字节的，加密字段和保留字段都是一个字节，但是因为加密字段和保留字段都是0，所以这四个字节可以使用int.to_bytes(689,4,'little')来表示。最后该协议使用的是utf-8编码，所以我们需要对整个数据进行编码后再发送。

 

二、具体步骤

1、连接服务器

第三方客户端通过 tcp 协议连接到弹幕服务器(依据指定的 ip 和端口)，其中ip 地址为openbarrage.douyutv.com，端口为8601，相关代码如下：

client = socket.socket(socket.af_inet, socket.sock_stream)
host = socket.gethostbyname("openbarrage.douyutv.com")
port = 8601
client.connect((host, port))

2、发送登录请求

客户端向弹幕服务器发送登录请求，登录弹幕服务器，格式如下：

type@=loginreq/roomid@=房间号/

3、发送加组请求

客户端收到登录成功消息后发送进入弹幕分组请求给弹幕服务器，格式如下：

type@=joingroup/rid@=房间号/gid@=-9999/

gid表示分组号，第三方平台建议选择-9999即海量弹幕模式。

4、接收广播消息

接收服务器发送的广播消息，包括用户发的弹幕和送的礼物信息，然后解析得到具体的内容。但这些数据里只有礼物的id而没有具体的礼物名称，然后我通过抓包找到了两个链接，里面包含了礼物id和名称的对应关系，相关代码如下：

 1 gift_dict = {}
 2 headers = {
 3     "user-agent": "mozilla/5.0 (windows nt 6.1; wow64) applewebkit/537.36 (khtml, like gecko) chrome/68.0.3440.75 safari/537.36"
 4 }
 5 url1 = "https://webconf.douyucdn.cn/resource/common/gift/flash/gift_effect.json"
 6 res1 = requests.get(url1, headers=headers)
 7 js1 = json.loads(res1.text.lstrip('dyconfigcallback(').rstrip(');'))
 8 gift_data1 = js1['data']['flashconfig']
 9 for i in gift_data1.keys():
10     gift_dict[gift_data1[i]['id']] = gift_data1[i]['name']
11 
12 url2 = "https://webconf.douyucdn.cn/resource/common/prop_gift_list/prop_gift_config.json"
13 res2 = requests.get(url2, headers=headers)
14 js2 = json.loads(res2.text.lstrip('dyconfigcallback(').rstrip(');'))
15 gift_data2 = js2['data']
16 for i in gift_data2.keys():
17     gift_dict[int(i)] = gift_data2[i]['name']

5、发送心跳消息

客户端每隔45秒给服务器发送一次心跳消息，用于维护和服务器后台间的联系，格式如下：

keep_msg = "type@=keeplive/tick@=十位时间戳"  # 旧版心跳消息
keep_msg = "mrkl/"  # 新版心跳消息

6、核心代码

在发送数据的时候，有可能会出现一次无法发送完的情况，所以就需要多发送几次，确保把数据都发送出去：

 1 msg = msg + '\0'  # 数据以'\0'结尾
 2 msg = msg.encode('utf-8')  # 使用utf-8编码
 3 length = len(msg) + 8  # 消息长度
 4 code = 689  # 消息类型
 5 # 消息头部：消息长度+消息长度+消息类型+加密字段(默认为0)+保留字段(默认为0)
 6 head = int.to_bytes(length, 4, 'little') + int.to_bytes(length, 4, 'little') + int.to_bytes(code, 4, 'little')
 7 # 发送头部部分
 8 client.send(head)
 9 # 发送数据部分
10 sent = 0
11 while sent < len(msg):
12     n = client.send(msg[sent:])  # 返回已发送的数据长度
13     sent = sent + n

 

三、运行结果

运行截图：

进入数据库查看结果：

db.getcollection('douyu-6039226').find({"data_type":"gift"})

结果如下：

还可以看看大家都发了什么弹幕：

db.getcollection('douyu-6039226').find({"data_type":"chat"},{"user_name":1,"chat_txt":1,"_id":0})

结果如下：

 

完整代码已上传到github：https://github.com/qaq112233/douyu