欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Spring Cloud 之 负载均衡 Ribbon组件

程序员文章站 2022-06-13 10:46:16
...

本节使用Ribbon和RestTemplate来消费服务,并且实现负载均衡。
RestTemplate是Spring Resources中的一个访问RESTFul API接口的网络请求框架。用来消费REST服务。支持常见的Http协议的请求方法。Post、Put、Get、Delete等等。
Ribbon是Netflix公司的一个开源负载均衡组件。可以和RestTemplate结合使用,也可以和Feign(服务之间相互调用接口的方式)结合使用,Feign默认集成了Ribbon。


1、同个服务启动多个实例

接上篇博客的demo继续操作。Spring Cloud 之 服务注册与发现 Eureka组件
先启动eureka-server服务。然后点击如下图,修改单个服务(修改eureke-client)可以启动多个实例
Spring Cloud 之 负载均衡 Ribbon组件
Spring Cloud 之 负载均衡 Ribbon组件
去掉这个“Single instance only”。
现在eureka-client的配置文件写的端口是“8002”,启动eureka-client,然后修改端口为“8003”再启动一次。访问注册中心可以看见,在注册中心注册了2个实例:
Spring Cloud 之 负载均衡 Ribbon组件


2、创建Ribbon模块

新建一个model:ribbon,作为服务消费者,通过RestTemplate远程调用eureka-client(service-hello)服务的API接口“/hi”。
pom.xml(有些依赖在主工程的pom.xml里已经配置了)

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.server</groupId>
    <artifactId>ribbon</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <packaging>jar</packaging>

    <name>ribbon</name>
    <description>Demo project for Spring Boot</description>

    <parent>
        <groupId>com.cloud</groupId>
        <artifactId>test</artifactId>
        <version>1.0-SNAPSHOT</version>
    </parent>

    <properties>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
        <java.version>1.8</java.version>
        <spring-cloud.version>Finchley.RELEASE</spring-cloud.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
        </dependency>
    </dependencies>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-dependencies</artifactId>
                <version>${spring-cloud.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>
</project>

配置文件application.yml

eureka:
  client:
    serviceUrl:
      defaultZone: http://localhost:7777/eureka/
server:
  port: 8004
spring:
  application:
    name: service-ribbon

在应用主类加上注解和注入RestTemplate:

@SpringBootApplication
//通过@EnableEurekaClient向服务中心注册
@EnableEurekaClient
public class RibbonApplication {

    public static void main(String[] args) {
        SpringApplication.run(RibbonApplication.class, args);
    }

    /**
     * 向程序的ioc注入一个bean: restTemplate;并通过@LoadBalanced注解表明这个restRemplate开启负载均衡的功能。
     */
    @Bean
    @LoadBalanced
    RestTemplate restTemplate(){
        return new RestTemplate();
    }
}

写一个测试类HelloService,通过之前注入ioc容器的restTemplate来消费service-hi服务的“/hi”接口。

@Service
public class HelloService {

    @Autowired
    RestTemplate restTemplate;

    public String helloService(String name) {
        return restTemplate.getForObject("http://SERVICE-HELLO/hi?name=" + name, String.class);
    }
}

controller

@RestController
@RequestMapping("/hello")
public class HelloController {

    @Autowired
    HelloService helloService;

    @RequestMapping(value = "/hi")
    public String hi(@RequestParam String name) {
        return helloService.helloService(name);
    }

}


3、测试

启动service-ribbon,在注册中心可以看到服务已注册:
Spring Cloud 之 负载均衡 Ribbon组件
在浏览器多次访问http://localhost:8004/hello/hi?name=mistra,将循环打印

  • hi mistra,i am from port:8002
  • hi mistra,i am from port:8003

负载均衡器采用轮询的方式轮流请求了eureka-client的两个实例。
负载均衡器的核心类是LoadBalancerClient,LoadBalancerClient从Eureka Client的服务注册列表中获取服务信息,并缓存一份LoadBalancerClient调用choose()方法是根据负载均衡策略选择一个服务实例。

源码


4、Ribbon核心解析

负载均衡的核心类是LoadBalancerClient,它可以获取负载均衡服务提供者的信息。LoadBalancerClient的choose(“eureka-client”)方法可以从Eureka Client服务注册列表轮流得到各个eureka-client服务实例的信息。根据负载均衡策略选择一个服务实例。
LoadBalancerClient继承自ServiceInstanceChooser接口,该接口有一个方法根据serviceId获取ServiceInstance,即通过服务名来选择服务实例。
LoadBalancerClient有一个实现类RibbonLoadBalancerClient。最终的负载均衡的处理请求由它来执行。它的choose()方法用于选择具体的服务实例,该方法通过getServcer()方法去获取实例,最终是交给ILoadBalancer类去选择服务实例。ILoadBalancer是一个接口,定义了一系列实现负载均衡的方法。

public interface ILoadBalancer {
    void addServers(List<Server> var1);//添加一个Server集合
    Server chooseServer(Object var1);//根据key去获取Server
    void markServerDown(Server var1);//标记某个服务下线
    List<Server> getReachableServers();//获取可用的Server集合
    List<Server> getAllServers();//获取所有的Server集合
}

ILoadBalancer的子类DynamicServerListLoadBalancer的一个构造方法:

public DynamicServerListLoadBalancer(IClientConfig clientConfig, IRule rule, IPing ping, ServerList<T> serverList, ServerListFilter<T> filter, ServerListUpdater serverListUpdater) {
        super(clientConfig, rule, ping);
        this.isSecure = false;
        this.useTunnel = false;
        this.serverListUpdateInProgress = new AtomicBoolean(false);
        this.updateAction = new UpdateAction() {
            public void doUpdate() {
                DynamicServerListLoadBalancer.this.updateListOfServers();
            }
        };
        this.serverListImpl = serverList;
        this.filter = filter;
        this.serverListUpdater = serverListUpdater;
        if (filter instanceof AbstractServerListFilter) {
            ((AbstractServerListFilter)filter).setLoadBalancerStats(this.getLoadBalancerStats());
        }

        this.restOfInit(clientConfig);
    }

用于配置一系列负载均衡的规则,IRule有7种默认实现类
Spring Cloud 之 负载均衡 Ribbon组件
分别对应7种规则:

  • 选择最小请求数
  • 轮询
  • 随机选择一个server
  • 轮询选择server
  • 根据轮询的方式重试
  • 根据响应时间分配一个比重,weight越低,被选择的可能性越低
  • 根据server的zone区域和可用性来轮询选择

IPing用来向server发送ping(每隔10秒发送一次心跳“ping”),俩判断server是否可用。

Ribbon负载均衡的逻辑就是:通过LoadBanlancerClient来实现的,具体交给ILoadBalancer来处理,ILoadBalancer通过配置IRule,IPing等。在初始化时向Eureka获取服务注册列表信息,并且每隔10秒向EurekaClient发送心跳“ping”,如果服务的可用性或者服务的数量与之前的不一致,则更新或重新拉取服务注册列表,ILoadBalancer根据IPing区判断服务的可用性。ILoadBalancer根据IRule的策略去路由。
RestTemplate加上@LoadBalance注解后能实现负载均衡,主要是维护了一个被@LoanBalance注解的RestTemplate列表,并给列表中的RestTemplate添加了拦截器,在拦截器方法中将远程调度方法交给了Ribbon的负载均衡器LoadBalancerClient去处理,从而达到负载均衡。


Spring Cloud 之 负载均衡 Ribbon组件