SpringCloud之微服务容错的实现
1.雪崩效应
雪崩效应
如上图所示,假设我们有3个微服务a,b,c,a调用b,b调用c,如果c挂掉了,由于b是同步调用,不断等待,导致资源耗尽,b也挂掉,接下来a也挂掉了,造成了雪崩效应!为了防止雪崩效应,所以我们要在本篇文章中介绍hystrix。
2.hystrix
hystrix
hystrix对应的中文名字是“豪猪”,豪猪周身长满了刺,能保护自己不受天敌的伤害,代表了一种防御机制,反正这种猪我是没吃过的,不敢吃。那么hystrix又具备什么样的特点呢:
2.1服务降级
双11的时候我们经常看到哎哟被挤爆了,这其实就是一种服务降级。那么hystrix是怎么做到服务降级的呢?
2.1.1优先核心服务,非核心服务不可用或者弱可用
比如在一个系统中我们可能有限保证订单和支付服务,但是对于广告之类的服务就若花掉
2.1.2通过hystrixcommand注解
2.1.3fallbackmethod中具体实现降级逻辑
2.1.4具体使用
2.1.4.1pom.xml
<dependency> <groupid>org.springframework.cloud</groupid> <artifactid>spring-cloud-starter-netflix-hystrix</artifactid> </dependency>
2.1.4.2启动类
//@springbootapplication //@enablediscoveryclient //@enablecircuitbreaker @springcloudapplication public class orderapplication { public static void main(string[] args) { springapplication.run(orderapplication.class, args); } }
在这里我们引入了@enablecircuitbreaker这个注解,但是可以看到我们的main函数所在的类上面有好多注解了,我们这里用一个springcloudapplication注解包含上面的3个注解
2.1.4.3hystrixcommand与fallback的使用
@hystrixcommand(fallbackmethod="fallback") @getmapping("/getproductinfolist") public string getproductinfolist(@requestparam("number") integer number) { resttemplate resttemplate = new resttemplate(); return resttemplate.postforobject("http://127.0.0.1:8005/product/listfororder", arrays.aslist("157875196366160022"), string.class); } private string fallback() { return "太拥挤了, 请稍后再试~~"; }
假设你的方法有几万个,上面的这种写法用@hystrixcommand这个注解肯定要用几万次,太麻烦了,我们来优化和更新一下:
@restcontroller @defaultproperties(defaultfallback = "defaultfallback") public class hystrixcontroller { @hystrixcommand(commandproperties = { @hystrixproperty(name = "execution.isolation.thread.timeoutinmilliseconds", value = "3000") }) @getmapping("/getproductinfolist") public string getproductinfolist(@requestparam("number") integer number) { resttemplate resttemplate = new resttemplate(); return resttemplate.postforobject("http://127.0.0.1:8005/product/listfororder", arrays.aslist("157875196366160022"), string.class); } private string defaultfallback() { return "默认提示:太拥挤了, 请稍后再试~~"; } }
直接在controller上面写了一个defaultproperties这样的注解,然后定义了一个defaultfallback这样的方法,我们在getproductinfolist这个方法上的@hystrixcommand注解上可以不在注明fallback方法了,因为我们都用defaultfallback了。但是在这里我们用了一个commandproperties = {
@hystrixproperty(name = "execution.isolation.thread.timeoutinmilliseconds", value = "3000"),这个表示当调用方法超过3秒钟时,就服务降级
2.2依赖隔离
hystrix使用依赖隔离完成的是线程池的隔离,它为每个hystrixcommand创建一个单独的线程池。这样某个在hystrixcommand包装下的依赖服务出现延迟过高的情况,也只是对该依赖的服务调用产生影响,并不会拖慢其他服务。使用了hystrixcommand将某个函数包装成hystrix命令时,hystrix框架就会自动的为这个函数实现了依赖隔离,所以依赖隔离和服务降级是一体化实现的。
2.3服务熔断
当服务调用发生错误到一定比例的时候,断路器就会打开,服务的调用会转向另外一个指定的调用方法,这就是服务熔断,这样说比较抽象,我们看看下面这个图:
断路器
断路器一共有三个状态,初始的时候是closed状态,如果用户不断调用且失败次数达到了一定的阈值,这个时候断路器就会变成open状态,接下来用户不断调用这个接口都是进入到另一个缺省方法中。但是断路器不会一直处于open状态,当open状态达到一定时间后,断路器会变成half open状态,进入half open状态后,将会允许请求再次访问真正的服务,如果访问成功了,断路器会变成closed状态,服务恢复正常,如果还失败又再次进入到open状态。
2.3.1代码演示
@hystrixcommand(commandproperties = { @hystrixproperty(name = "circuitbreaker.enabled", value = "true"), //设置熔断 @hystrixproperty(name = "circuitbreaker.requestvolumethreshold", value = "10"), //请求数达到后才计算 @hystrixproperty(name = "circuitbreaker.sleepwindowinmilliseconds", value = "10000"), //休眠时间窗 @hystrixproperty(name = "circuitbreaker.errorthresholdpercentage", value = "60"), //错误率 }) @getmapping("/getproductinfolist") public string getproductinfolist(@requestparam("number") integer number) { if (number % 2 == 0) { return "success"; } resttemplate resttemplate = new resttemplate(); return resttemplate.postforobject("http://127.0.0.1:8005/product/listfororder", arrays.aslist("157875196366160022"), string.class); }
通过代码,我们可以看到,有四个参数,但是最重要的还是这三个参数:
1.circuitbreaker.requestvolumethreshold 请求数达到后才计算
2.circuitbreaker.sleepwindowinmilliseconds open状态达到这个时间后,就会进入到半熔断状态
3.circuitbreaker.errorthresholdpercentage 失败请求比例
2.3.2使用配置项
从上面的代码中,我们可以看到,很多配置项都是写在了代码里面,接下来,我们把这些配置放到配置文件里面去:
@hystrixcommand @getmapping("/getproductinfolist") public string getproductinfolist(@requestparam("number") integer number) { if (number % 2 == 0) { return "success"; } resttemplate resttemplate = new resttemplate(); return resttemplate.postforobject("http://127.0.0.1:8005/product/listfororder", arrays.aslist("157875196366160022"), string.class); }
在yaml文件中添加这样的配置:
hystrix: command: default: execution: isolation: thread: timeoutinmilliseconds: 1000 getproductinfolist: execution: isolation: thread: timeoutinmilliseconds: 3000
在yaml文件中有一个getproductinfolist配置项,和方法名一模一样,还有一个default选项,default选项表示所有被hystrixcommand注解的方法都可以用这个配置,getproductinfolist表示只有这个方法可以用这个配置项。
2.3.3feign-hystrix的使用
上面的小章节我们使用的是resttemplate模板,接下来我们使用feign配合hystrix来进行使用,有意思的是大家可以看看spring-cloud-starter-feign的pom.xml其实已经在内部依赖了hystrix。
2.3.3.1yaml配置文件
feign: hystrix: enabled: true
2.3.3.2feignclient
@feignclient(name = "product", fallback = productclient.productclientfallback.class) public interface productclient { @postmapping("/product/listfororder") list<productinfooutput> listfororder(@requestbody list<string> productidlist); @postmapping("/product/decreasestock") void decreasestock(@requestbody list<decreasestockinput> decreasestockinputlist); @component static class productclientfallback implements productclient { @override public list<productinfooutput> listfororder(list<string> productidlist) { return null; } @override public void decreasestock(list<decreasestockinput> decreasestockinputlist) { } } }
两个注意点,一个是fallback的配置,还有一个是内部类需要加上@component注解
2.3.3.3调用方记得加上componentscan
2.4监控hystrixdashboard
2.4.1pom.xml
spring-cloud-starter-hystrix-dashboard
2.4.2yaml文件
management: context-path: /
2.4.3访问
ip:port/hystrix
服务容错就讲到这里,下一章节我们讲解下服务跟踪。希望对大家的学习有所帮助,也希望大家多多支持。