网络模型

程序员文章站 2022-03-03 22:24:08

服务端处理网络请求的典型过程：处理步骤包括：获取请求数据，客户端与服务器建立连接发出请求，服务器接受请求（1 3）。构建响应，当服务器接收完请求，并在用户空间处理客户端的请求，直到构建响应完成（4）。返回数据，服务器将已构建好的响应再通过内核空间的网络 I/O 发还给客户端（5 7）。设计 ......

服务端处理网络请求的典型过程：
网络模型

处理步骤包括：

获取请求数据，客户端与服务器建立连接发出请求，服务器接受请求（1-3）。
构建响应，当服务器接收完请求，并在用户空间处理客户端的请求，直到构建响应完成（4）。
返回数据，服务器将已构建好的响应再通过内核空间的网络 i/o 发还给客户端（5-7）。

设计服务端并发模型时，主要有如下两个关键点：

服务器如何管理连接，获取输入数据。
服务器如何处理请求。

阻塞调用与非阻塞调用 (阻塞、非阻塞的讨论对象是调用者)

1.阻塞调用是指调用结果返回之前，当前线程会被挂起。调用线程只有在得到结果之后才会返回。
2.非阻塞调用指在不能立刻得到结果之前，该调用不会阻塞当前线程。
两者的最大区别在于被调用方在收到请求到返回结果之前的这段时间内，调用方是否一直在等待。
阻塞是指调用方一直在等待而且别的事情什么都不做；非阻塞是指调用方先去忙别的事情。

同步处理与异步处理 (同步、异步的讨论对象是被调用者)

1.同步处理是指被调用方得到最终结果之后才返回给调用方。
2.异步处理是指被调用方先返回应答，然后再计算调用结果，计算完最终结果后再通知并返回给调用方。

阻塞式 i/o 模型(blocking i/o）

网络模型
在阻塞式 i/o 模型中，应用程序在从调用 recvfrom 开始到它返回有数据报准备好这段时间是阻塞的，recvfrom 返回成功后，应用进程开始处理数据报。

比喻：一个人在钓鱼，当没鱼上钩时，就坐在岸边一直等。
优点：程序简单，在阻塞等待数据期间进程/线程挂起，基本不会占用 cpu 资源。
缺点：每个连接需要独立的进程/线程单独处理，当并发请求量大时为了维护程序，内存、线程切换开销较大，这种模型在实际生产中很少使用。

非阻塞式 i/o 模型(non-blocking i/o）

网络模型
在非阻塞式 i/o 模型中，应用程序把一个套接口设置为非阻塞，就是告诉内核，当所请求的 i/o 操作无法完成时，不要将进程睡眠。而是返回一个错误，应用程序基于 i/o 操作函数将不断的轮询数据是否已经准备好，如果没有准备好，继续轮询，直到数据准备好为止。

比喻：边钓鱼边玩手机，隔会再看看有没有鱼上钩，有的话就迅速拉杆。
优点：不会阻塞在内核的等待数据过程，每次发起的 i/o 请求可以立即返回，不用阻塞等待，实时性较好。
缺点：轮询将会不断地询问内核，这将占用大量的 cpu 时间，系统资源利用率较低，所以一般 web 服务器不使用这种 i/o 模型。

i/o 复用模型(i/o multiplexing）

网络模型
在 i/o 复用模型中，会用到 select 或 poll 函数或 epoll 函数(linux 2.6 以后的内核开始支持)，这两个函数也会使进程阻塞，但是和阻塞 i/o 有所不同。
这两个函数可以同时阻塞多个 i/o 操作，而且可以同时对多个读操作，多个写操作的 i/o 函数进行检测，直到有数据可读或可写时，才真正调用 i/o 操作函数。

比喻：放了一堆鱼竿，在岸边一直守着这堆鱼竿，没鱼上钩就玩手机。
优点：可以基于一个阻塞对象，同时在多个描述符上等待就绪，而不是使用多个线程(每个文件描述符一个线程)，这样可以大大节省系统资源。
缺点：当连接数较少时效率相比多线程+阻塞 i/o 模型效率较低，可能延迟更大，因为单个连接处理需要 2 次系统调用，占用时间会有增加。

信号驱动式 i/o 模型（signal-driven i/o)

网络模型
在信号驱动式 i/o 模型中，应用程序使用套接口进行信号驱动 i/o，并安装一个信号处理函数，进程继续运行并不阻塞。
当数据准备好时，进程会收到一个 sigio 信号，可以在信号处理函数中调用 i/o 操作函数处理数据。

比喻：鱼竿上系了个铃铛，当铃铛响，就知道鱼上钩，然后可以专心玩手机。
优点：线程并没有在等待数据时被阻塞，可以提高资源的利用率。
缺点：信号 i/o 在大量 io 操作时可能会因为信号队列溢出导致没法通知。

信号驱动 i/o 尽管对于处理 udp 套接字来说有用，即这种信号通知意味着到达一个数据报，或者返回一个异步错误。
但是，对于 tcp 而言，信号驱动的 i/o 方式近乎无用，因为导致这种通知的条件为数众多，每一个来进行判别会消耗很大资源，与前几种方式相比优势尽失。

异步 i/o 模型（asynchronous i/o）

网络模型
由 posix 规范定义，应用程序告知内核启动某个操作，并让内核在整个操作（包括将数据从内核拷贝到应用程序的缓冲区）完成后通知应用程序。
这种模型与信号驱动模型的主要区别在于：信号驱动 i/o 是由内核通知应用程序何时启动一个 i/o 操作，而异步 i/o 模型是由内核通知应用程序 i/o 操作何时完成。