后台开发小白必学服务器框架——UDPServer
毕业后加入了一家大型的互联网公司的音视频产品部门做后台开发,其实我本身是学习自动化的,研究生的方向嵌入式系统,对互联网可是一知半解,因此能进入这样一个大公司还是很幸运的。
刚开始工作的半年应该是在上份工作最快乐的时光,那时候我们十来个人被抽调出来做好友系统,由z组长负责。从产品到开发,大部分都是新入职员工,pm给画了一个大饼,大家都满怀憧憬。闲话少说,先介绍一下刚开始接触后台开发用到的服务器框架。
第一个接触的叫udpserver。顾名思义,就是只支持udp的服务框架。因为我们部门是做音视频产品的,音视频数据对实时性要求很高,因此常用udp传输数据。udp server是同步多进程模型,包含1个interface进程和多个worker进程。
iterface进程负责接收来自外部的请求,做一些合法性校验和格式转换后,转发给后端的worker进程。worker进程监听不同的端口收包,并处理业务逻辑。worker进程的回包直接发给客户端。
此处有几个点值得关注:
首先,worker进程监听的是不同端口。
监听相同的端口显然是更常见的做法,而监听相同的端口也需要注意一点,即监听的端口socket必须是从父进程中继承得到的,而非worker自己创建的socket。因为对于前者内核才能保证调度的均匀性,而后者是没有这种效果的,内核只会把请求包扔给同一个worker。
这里之所以使用监听不同端口的方案,是为了保证调度的可控性,请求包发往哪个worker是有预期的,可以做更个性化的调度策略,问题定位也方便得多。udp server默认是使用轮询的调度方式。
第二点是,worker进程回包是直接返回给客户端的。
另一种常见做法是通过interface进程回包,缺点是interface会成为瓶颈。而worker直接回包的缺点是向外部暴露worker,不过这个问题并不十分严重。相较之下,我们更希望获得性能的提升。为了给客户端回包,interface会把客户端的ip和端口封装到请求包发给worker。
框架虽简单,但是性能非常优异,作为echosvr性能可达30w+ qps。但是这个框架不支持tcp,因此只能作为内部的服务框架使用。
因为很久没用这个框架了,以上所述可能有不准确或者不充分的地方,望不吝赐教。
上一篇: 开源框架 openFrameworks
下一篇: 后台服务器框架中的瑞士军刀——MCP