Tomcat怎么实现异步Servlet

有时servlet在生成响应报文前必须等待某些耗时的操作，比如在等待一个可用的jdbc连接或等待一个远程web服务的响应。对于这种情况servlet规范中定义了异步处理方式，由于servlet中等待阻塞会导致web容器整体的处理能力低下，所以对于比较耗时的操作可以放置到另外一个线程中进行处理，此过程保留连接的请求和响应对象，在处理完成之后可以把处理的结果通知到客户端。

下面先看servlet在同步情况下的处理过程，如图所示，tomcat的客户端请求由管道处理最后会通过wrapper容器的管道，这时它会调servlet实例的service方法进行逻辑处理，处理完后响应客户端，整个处理由tomcat的executor线程池的线程处理，而线程池的最大线程数使有限制的，所以这个处理过程越短、越快把线程让回线程池就越好。但如果servlet中的处理逻辑耗时越长就会导致长期地占用tomcat的处理线程池，影响tomcat的整体处理能力。

为了解决上面的问题引入了支持异步的servlet，同样是客户端请求到来，然后通过管道最后进入到wrapper容器的管道，调用servlet实例的service后，创建一个异步上下文将耗时的逻辑操作封装起来，交给用户自己定义的线程池，这时tomcat的处理线程就能马上回到executor线程池，而不用等待耗时的操作完成才让出线程，从而提升了tomcat的整体处理能力。这里要注意的是，由于后面做完耗时的操作后还需要对客户端响应，所以需要保持住request和response对象，以便输出响应报文到客户端。

再结合一个简单的异步代码来看tomcat对servlet异步的实现：

public class asyncservlet extends httpservlet {

  scheduledthreadpoolexecutor userexecutor = new scheduledthreadpoolexecutor(5);

  public void doget(httpservletrequest req, httpservletresponse res) {
    asynccontext actx = req.startasync(req, res);
    userexecutor.execute(new asynchandler(actx));
  }

}

public class asynchandler implements runnable {

  private asynccontext ctx;

  public asynchandler(asynccontext ctx) {
    this.ctx = ctx;
  }

  @override
  public void run() {
    //耗时操作
    printwriter pw;
    try {
      pw = ctx.getresponse().getwriter();
      pw.print("done!");
      pw.flush();
      pw.close();
    } catch (ioexception e) {
      e.printstacktrace();
    }
    ctx.complete();
  }
}

我们创建一个asyncservlet，它定义了一个userexecutor线程池专门用于处理该servlet的所有请求的耗时的逻辑操作。这样就不会占用tomcat内部的executor线程池，影响到对其他servlet的处理。这种思想有点像资源隔离，耗时的操作统一由指定的线程池处理，而不要影响其它耗时少的请求处理。

servlet的异步的实现就很好理解了，startasync方法其实就是创建了一个异步上下文asynccontext对象，该对象封装了请求和响应对象。然后创建一个任务用于处理耗时逻辑，后面通过asynccontext对象获得响应对象并对客户端响应，输出“done!”。完成后要通过complete方法告诉tomcat内部我已经处理完，tomcat就会请求对象和响应对象进行回收处理或关闭连接。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。