欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Nginx的几种负载均衡方式

程序员文章站 2022-07-12 20:08:43
...

一、关于负载均衡

当一台服务器的单位时间内的访问量越大时,服务器压力就越大,大到超过自身承受能力时,服务器就会崩溃。为了避免服务器崩溃,让用户有更好的体验,我们通过负载均衡的方式来分担服务器压力。

我们可以建立很多很多服务器,组成一个服务器集群,当用户访问网站时,先访问一个中间服务器,在让这个中间服务器在服务器集群中选择一个压力较小的服务器,然后将该访问请求引入该服务器。如此以来,用户的每次访问,都会保证服务器集群中的每个服务器压力趋于平衡,分担了服务器压力,避免了服务器崩溃的情况。

负载均衡是用反向代理的原理实现的。

 

二、Nginx和Tomcat对请求负载均衡的方案

整体思想方向:

前端部署nginx服务器,后端部署tomcat应用。用户访问nginx服务器,对于静态资源nginx服务器直接返回到浏览器展示给用户,对动态资源的请求被nginx服务器转发(分配)到tomcat应用服务器,tomcat应用服务器将处理后得到的数据结构返回给nginx服务器,然后返回到浏览器展示给用户。

注意:

在这里Tomcat应用服务器就是Java应用,可以理解为后台。

Nginx的几种负载均衡方式

 

Nginx作为反向代理服务器,可以对后台的多台Tomcat服务器负载均衡,也可以让Nginx处理静态页面的请求、Tomcat处理JSP页面请求,以此达到动静分离的目的。

 

三、负载均衡方式

1、轮询(默认) 

每个请求按时间顺序逐一分配到不同的后端服务器,如果后端服务器down掉,能自动剔除。

适合服务器配置相当,无状态且短平快的服务使用。也适用于图片服务器集群和纯静态页面服务器集群。

优点:方式简便、成本低廉。

缺点:可靠性低和负载分配不均衡。

upstream dynamic_tsingxin {
    server ip地址1;
    server ip地址2;
}

2、weight 

指定轮询几率,weight和访问比率成正比,用于后端服务器性能不均的情况。

upstream dynamic_tsingxin {
    server ip地址1 weight=3;
    server ip地址2 weight=7;
}

权重越高,在被访问的概率越大,如上例,分别是30%,70%。

3、ip_hash

上述方式存在一个问题,在负载均衡系统中,假如用户在某台服务器上登录了,那么该用户第二次请求的时候,因为我们是负载均衡系统,每次请求都会重新定位到服务器集群中的某一个,那么已经登录某一个服务器的用户再重新定位到另一个服务器,其登录信息将会丢失,这样显然是不妥的。

可以采用ip_hash指令解决这个问题,如果客户已经访问了某个服务器,当用户再次访问时,会将该请求通过哈希算法,自动定位到该服务器。

每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session不能跨服务器的问题。

upstream dynamic_tsingxin {
    ip_hash;    #保证每个访客固定访问一个后端服务器
    server ip地址1;
    server ip地址2;
}

注意:

  • 在nginx版本1.3.1之前,不能在ip_hash中使用权重(weight)
  • ip_hash不能与backup同时使用
  • 此策略适合有状态服务,比如session
  • 当有服务器需要剔除,必须手动down掉

4、least_conn

  把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端,使它们的负载大致相同;但是,有些请求占用的时间很长,会导致其所在的后端负载较高。这种情况下,least_conn这种方式就可以达到更好的负载均衡效果。

upstream dynamic_tsingxin {
    least_conn;    #把请求转发给连接数较少的后端服务器
    server ip地址1;  
    server ip地址2;  
}

注意:

此负载均衡策略适合请求处理时间长短不一造成服务器过载的情况。

5、fair(第三方)

第三方的负载均衡策略的实现需要安装第三方插件。

按后端服务器的响应时间来分配请求,响应时间短的优先分配。

upstream dynamic_tsingxin {
    server ip地址1;
    server ip地址2;
    fair;    #实现响应时间短的优先分配
}

6、url_hash(第三方) 

按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,要配合缓存命中来使用。同一个资源多次请求,可能会到达不同的服务器上,导致不必要的多次下载,缓存命中率不高,以及一些资源时间的浪费。而使用url_hash,可以使得同一个url(也就是同一个资源请求)会到达同一台服务器,一旦缓存住了资源,再此收到请求,就可以从缓存中读取。

upstream dynamic_tsingxin {
    server ip地址1;
    server ip地址2;
    hash $request_uri;    #实现每个url定向到同一个后端服务器
    hash_method crc32;
}

注意:

在upstream中加入hash语句,server语句中不能写入weight等其他的参数,hash_method是使用的hash算法。

 

状态设置:

1.down:表示单前的server暂时不参与负载

2.weight:默认为1。weight越大,负载的权重就越大 

3.max_fails:允许请求失败的次数,默认为1。当超过最大次数时,返回proxy_next_upstream模块定义的错误 

4.fail_timeout:max_fails次失败后,暂停的时间

5.backup:预留的备份服务器。 其它所有的非backup机器down或者忙的时候,请求backup机器。所以这台机器压力会最轻

6.max_conns:限制最大的接收连接数

 

以上配置都是写在服务的后面:

upstream dynamic_tsingxin { #定义负载均衡设备的Ip及设备状态
      ip_hash;
      server 10.0.0.11:9090 down;
      server 10.0.0.11:8080 weight=2;
      server 10.0.0.11:6060;
      server 10.0.0.11:7070 fail_timeout=60s;
}

配置实例:

#user  nobody;
worker_processes  4;
events {
    # 最大并发数
    worker_connections  1024;
}
http{
    # 待选服务器列表
    upstream dynamic_tsingxin{
        # ip_hash指令,将同一用户引入同一服务器。
        ip_hash;
        server 172.17.65.138 fail_timeout=60s;
        server 172.17.65.137;
        keepalive 30;    #建立nginx服务器与后端应用服务器的长连接
    }

    server{
        # 监听端口
        listen 80;
        # 根目录下
        location / {
            # 选择哪个服务器列表
            proxy_pass http://dynamic_tsingxin;
            
            proxy_set_header Host $http_host:$proxy_port;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    
            proxy_http_version 1.1;
            proxy_set_header Connection "";
        }

    }
}

注意:

建立nginx服务器与后端应用服务器的长连接时,将默认的proxy_http_version 1.0 + Connection 为close 改掉。

 

相关标签: nginx 分布式