GFS一次lookup消耗网络流量分析
GFS一次lookup消耗网络流量分析
1.数据链路层所占字节数固定为 :14B(详细内容略)
2.ip协议层所占字节数固定为: 28B(详细内容略)
3.TCP协议层所占字节数固定为: 32B(详细内容略)
4.RPC协议格式分为两种:一种是call,另一种是replay
call: 所占字节数固定为 100B,详细结构及所占字节数如下:
Fragment header: 4B
XID: 4B
Message Type: 4B
RPC Version: 4B
Program: 4B
Program Version: 4B
Procedure: 4B
Credentials: 64B
Verifier: 8B
repaly:所占字节数固定为 28B,详细结构及所占字节数如下:
Fragment header: 4B
XID: 4B
Message Type: 4B
Replay state: 4B
Verifier: 8B
accept state: 4B
5.GlusterFS协议格式和RPC的call和replay协议相对应,如果是call对应的GlusterFS协议所占字节数为:332B + 要lookup的目录的字节数(如果目录的字节数为单数则补1位),如果是replay对应的GlusterFS协议所占字节数为320B或212B;
call对应GlusterFS详细结构如下:
GFID: 16B
Parent GFID: 16B
Flags: 4B
Basename: (4+lookup的目录的字节数+目录的字节数为单数?1:0)B
目录扩展属性信息 292B
目录扩展属性信息包括:glusterfs.parent-entrylk、glusterfs.entrylk-count、glusterfs.inodelk-count、gfidless-lookup、trusted.afr.gfs-ljl-client-2(与备份数有关)、trusted.afr.gfs-ljl-client-1、trusted.afr.gfs-ljl-client-0、glusterfs.content、[RPC-roundup bytes: 3]共8个。
replay对应GlusterFS详细结构如下:
Return value: 4B
Errno: 4B
Pre-operation parent IATT 100B
Post-operation parent IATT 100B
目录扩展属性: 112B (如果没有扩展属性返回为4B)
目录扩展属性信息包括:glusterfs.inodelk-count、glusterfs.entrylk-count、glusterfs.entrylk-count、[RPC-roundup bytes: 1]
6.计算例子:
6.1 如果lookup "xmail_dedup"目录时,glusterfs所在服务器对一个brickserver要传输的字节数(对应的RPC格式为call)。
计算如下:"xmail_dedup" 字符串的字节数为11B,是单数需要补1,变为12B
14 + 28 + 32 + 100 + 332 + 12 = 510B
6.2 brickserver 返回给glusterfs所在服务器要传输的字节数(对应RPC格式为replay)
14 + 28 + 32 + 28 + 320 = 414B
6.3 如果一个集群有282个brickserver,则需要传输的总字节数为:
510*282B = 143820B
6.4 我们真实需要的数据传输的字节数
假设需要传输的字节只有要扫描目录的路径("xmail_dedup"共11个字节):(66+11)*282 = 21714B
6.5 GFS传输的过多的垃圾数据
143820 - 21714 = 119K
6.6 如果lookup的目录深度为5层,则需要 119*5 = 595K的多余网络通信。