日均百万访问量服务该如何设置JVM内存？

前言

JVM常见问题：

1. JVM内存模型是都包含哪些部分，分别用来干什么的？

2. 如何设置JVM内存？

3. 日均xxx访问量服务该如何设置JVM内存？

4. ...

JVM内存模型大家应该都很熟悉，合理的设置JVM内存要考虑多方面的因素，如果JVM设置不合理系统上线后会产生哪些问题呢？

1. 容易引发Full GC造成系统卡顿

2. OOM服务直接挂掉

3. 请求变慢、响应超时

4. ...

下面使用一个小小的案例来讲解如何评估JVM容量，然后合理的设置JVM内存。

评估访问量

使用一个日均百万访问量服务来简单评估下JVM内存的使用以及会面临的一些问题。

平均QPS

日均百万访问量是不是太抽象了，所以先计算出平均QPS：

平均QPS = 100w / (24h * 3600s)

计算出平均QPS大约在每秒120次左右，那么这个订单订单请求每秒都会被调用大约120 次，每次调用都需要分配订单对象，一秒产生120个订单对象，30分钟后系统就会有：

订单对象 = 120 * (30m * 60s)

216000个订单对象，越来越多的订单对象存放在JVM中，事实上除了订单对象还会有其他的对象会存在，这个数字还要扩大10-20倍来计算。

每次请求消耗内存

计算出平均QPS那么每次请求会消耗多少内存呢？这个粗略的计算下比如：

• 一个int占4个字节

• 一个long占8个字节

• ...

这里我们假设是2kb这样一秒也就消耗240kb内存（120 * 2kb）看起来不大，服务压力还不明显，如果设置新生代为512m（524288kb）那大约要30分钟新生代才会被占满，然后JVM才会去执行Minor GC垃圾回收。

评估高峰期QPS

上面知道QPS为120，这样算下来好像对服务造成不了多大的压力。实际上大部分流量都会来自于白天（8个小时），再假设运营做了一个秒杀活动中午12-13点1000块秒个IPhonex，那这个时间段的流量可能要扩大10-20倍，咱们再用这个秒杀活动才计算一次：

高峰QPS = 日均QPS * 20倍

大概高峰期QPS为2000次，那算下来一秒钟要创建2000个订单对象，将近2m的空间（2000 * 2k）再大胆一点一秒钟内存占用几十M甚至几百M，那么Minor GC执行的周期将非常频繁 。

每秒2000个请求，GC频繁执行，系统性能下降以往1秒就能处理完的请求，可能会达到几秒甚至几十秒才能处理完成。更可怕的是请求时间变长，以往1秒处理完后可以回收的内存，现在变成在Minor GC执行期间还在引用无法得到有效的回收，这就导致Minor GC内存回收率低下，慢慢的对象将被移到老年代：

上述流程反复来几次，是不是的有对象被移到老年代，请求处理完成后这些对象又会变成垃圾对象停留在老年代，老年代里的垃圾对象是不是会越来越多？

一旦老年代的垃圾对象越来越多，迟早会满，然后就会触发老年代GC，而且这个频率还很快，可能就会频繁触发老年代垃圾回收。

JVM: 这谁顶的住~~

JVM内存设置参数

有了一个大概容量的评估，设置JVM内存就比较简单了，下面是一些常用的JVM内存设置参数：

1. -Xms：设置最小堆内存

2. -Xmx：设置最大堆内存

3. -Xmn：设置新生代内存

4. -Xss: 设置栈大小

5. -XX:PermSize：设置最小永久代内存

6. -XX:MaxPermSize：设置最小永久代内存

有了这些设置参数，再结合上一节给出的估算方法，就能很明白的设置这些参数的值，不用等到上线运行后再来根据访问量、并发量来慢慢调优设置了。

总结

如何合理设置JVM内存应当考虑以下因素：

• 评估总访问量

• 评估平均访问量

• 评估高峰QPS

• 请求单次消耗内存