欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Javaweb应用使用限流处理大量的并发请求详解

程序员文章站 2024-04-01 22:37:16
在web应用中,同一时间有大量的客户端请求同时发送到服务器,例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。 第一种方法:在容器中配置最大请求数,如...

在web应用中,同一时间有大量的客户端请求同时发送到服务器,例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。

第一种方法:在容器中配置最大请求数,如果大于改请求数,则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统,但对用户不友好。

第二种方法:使用过滤器,保证一定数量的请求能够正常访问系统,多余的请求先跳转到排队页面,由排队页面定时发起请求。过滤器实现如下:

public class servicefilter implements filter {
	
	private static final int max_count = 20;
	
	private atomicinteger filtercount = 0;

	public void dofilter(servletrequest request, servletresponse response,
			filterchain chain) throws ioexception, servletexception {
		system.out.println("before"+filtercount);
		if(filtercount > max_count) {
			//请求个数太多,跳转到排队页面
			request.getrequestdispatcher("index.jsp").forward(request, response);
		} else {
			//请求个数加1
			filtercount.incrementandget();

			chain.dofilter(request, response);
			//访问结束,请求个数减1
			filtercount.decrementandget();
		}
	}

此种方式的实现就是限流。可以参考ratelimiter的令牌桶限流策略的实现。

public class ratelimiterutils {
	private static logger logger = loggerfactory.getlogger(ratelimiterutils.class);
	private static final concurrenthashmap<string, ratelimiter> resourcelimitmap = 
			new concurrenthashmap<string, ratelimiter>();
	
	/**
	 * 限流
	 * @param resource 需要限流的对象的标识
	 * @return true表示得到了许可,没有达到限流阀值,false表示得不到许可,达到了限流阀值。
	 * @author: hejinen
	 * @date:2016年10月19日 上午11:08:49
	 */
	public static boolean ratelimit(string resource) {
		ratelimiter limit = getratelimit(resource);
		return limit.tryacquire();
	}
    /**
	 * 获取某个需限流对象的ratelimiter,如不存在则创建新的
	 * @param resouce 需要限流的对象标识
	 */
	public static ratelimiter getratelimit(string resource) {
		ratelimiter limit = resourcelimitmap.get(resource);	
		if(limit == null) {
			synchronized(ratelimiterutils.class) {
				limit = resourcelimitmap.get(resource);
				double qps = getqpsbyresource(resource);
				if(limit == null) {
					limit = ratelimiter.create(qps);
					resourcelimitmap.put(resource, limit);
					loggerutil.info(ratelimiterutils.class, "create rate limiter for key:{0},qps:{1}", resource,qps);
				}
			}
		}
		return resourcelimitmap.get(resource);
	}
}

总结

以上就是本文关于javaweb应用使用限流处理大量的并发请求详解的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:、javaweb项目session超时解决方案javaweb使用cors完成跨域ajax数据交互等,有什么问题可以随时留言,小编会及时回复大家的。感谢朋友们对本站的支持!