客户端设置超时时间真的很重要
概述
在一条慢sql导致购物车服务无法使用的解决方案一文中,提到了客户端调用购物车服务的时候,超时了。如果当时客户端没有设置超时时间的话,会在客户端中产生级联故障。先用一张图来说明一下。
聚合层除了调用购物车微服务,还调用了营销系统微服务。如果购物车服务的接口响应时间很慢,而客户端聚合层调用购物车服务时,又没有设置超时时间,那么将占有大量的连接,如果请求购物车服务的请求量比较大,瞬间就会把连接占用完,直接导致聚合层调用营销系统时,需要阻塞住等待获取连接,这样的话,整个小程序的很多功能就都用不了了。
从这里我们可以看到,最终小程序端会整体响应很慢,因为它调用了聚合层,而聚合层又调用了一个性能很差的购物车服务。产生级联故障了,小程序端和聚合层都在等待中耗尽了资源,这个是非常可怕的事情。
设置超时时间
聚合层是使用了spring cloud ribbon
,我们可以设置一下ribbon
的超时时间。具体的可以参看springcloud edgware.sr3版本中ribbon的timeout设置方法
ribbon:
readtimeout: 2000
connecttimeout: 2000
这样的话,聚合层调用购物车服务,如果两秒钟没有返回结果,则超时报错。这样做有两个好处。
- 快速失败,释放资源;
- 聚合层调用购物车虽然失败了,但是聚合层调用营销系统则仍然可以进行,不受影响。小程序端使用到营销系统接口的功能也能继续使用;
知识扩展
客户端保持弹性真心很重要,因此像客户端中的
- 负载均衡模式
- 断路器模式
- 后备模式
- 舱壁模式
都是需要了解的。要做一个弹性客户端,可以借助一些工具,像netflix
的hystrix
组件就非常不错,并且已经被spring cloud
集成进去了,使用起来也比较简单。
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对的支持。如果你想了解更多相关内容请查看下面相关链接
上一篇: 浅谈Python中的可变对象和不可变对象
下一篇: 第五章作业