Java开源生鲜电商平台-Java分布式以及负载均衡架构与设计详解(源码可下载）

Java开源生鲜电商平台-Java分布式以及负载均衡架构与设计详解(源码可下载）

 

说明：主要是针对一些中大型的项目需要进行分布式以及负载均衡的架构提一些思路与建议。

 

面对大量用户访问、高并发请求，海量数据，可以使用高性能的服务器、大型数据库，存储设备，高性能Web服务器，采用高效率的编程语言比如(Go,Scala)等，当单机容量达到极限时，我们需要考虑业务拆分和分布式部署，来解决大型网站访问量大，并发量高，海量数据的问题。

从单机网站到分布式网站，很重要的区别是业务拆分和分布式部署，将应用拆分后，部署到不同的机器上，实现大规模分布式系统。分布式和业务拆分解决了，从集中到分布的问题，但是每个部署的独立业务还存在单点的问题和访问统一入口问题，为解决单点故障，我们可以采取冗余的方式。将相同的应用部署到多台机器上。解决访问统一入口问题，我们可以在集群前面增加负载均衡设备，实现流量分发。

负载均衡（Load Balance），意思是将负载（工作任务，访问请求）进行平衡、分摊到多个操作单元（服务器，组件）上进行执行。是解决高性能，单点故障（高可用），扩展性（水平伸缩）的终极解决方案。

本文是负载均衡详解的第一篇文章，介绍负载均衡的原理，负载均衡分类（DNS负载均衡,HTTP负载均衡，IP负载均衡，链路层负载均衡,混合型P负载均衡）。

 

本次分享大纲

1. 负载均衡原理
2. DNS负载均衡
3. HTTP负载均衡
4. IP负载均衡
5. 链路层负载均衡
6. 混合型P负载均衡

一、负载均衡原理

系统的扩展可分为纵向（垂直）扩展和横向（水平）扩展。纵向扩展，是从单机的角度通过增加硬件处理能力，比如CPU处理能力，内存容量，磁盘等方面，实现服务器处理能力的提升，不能满足大型分布式系统（网站），大流量，高并发，海量数据的问题。因此需要采用横向扩展的方式，通过添加机器来满足大型网站服务的处理能力。比如：一台机器不能满足，则增加两台或者多台机器，共同承担访问压力。这就是典型的集群和负载均衡架构：如下图：

 

 

 

• 应用集群：将同一应用部署到多台机器上，组成处理集群，接收负载均衡设备分发的请求，进行处理，并返回相应数据。
• 负载均衡设备：将用户访问的请求，根据负载均衡算法，分发到集群中的一台处理服务器。（一种把网络请求分散到一个服务器集群中的可用服务器上去的设备）

 负载均衡的作用（解决的问题）：

1.解决并发压力，提高应用处理性能（增加吞吐量，加强网络处理能力）；

2.提供故障转移，实现高可用；

3.通过添加或减少服务器数量，提供网站伸缩性（扩展性）；

4.安全防护；（负载均衡设备上做一些过滤，黑白名单等处理）

二、负载均衡分类

根据实现技术不同，可分为DNS负载均衡，HTTP负载均衡，IP负载均衡，链路层负载均衡等。

2.1DNS负载均衡

最早的负载均衡技术，利用域名解析实现负载均衡，在DNS服务器，配置多个A记录，这些A记录对应的服务器构成集群。大型网站总是部分使用DNS解析，作为第一级负载均衡。如下图：

 

 

 

优点

1. 使用简单：负载均衡工作，交给DNS服务器处理，省掉了负载均衡服务器维护的麻烦
2. 提高性能：可以支持基于地址的域名解析，解析成距离用户最近的服务器地址，可以加快访问速度，改善性能；

缺点

1. 可用性差：DNS解析是多级解析，新增/修改DNS后，解析时间较长；解析过程中，用户访问网站将失败；
2. 扩展性低：DNS负载均衡的控制权在域名商那里，无法对其做更多的改善和扩展；
3. 维护性差：也不能反映服务器的当前运行状态；支持的算法少；不能区分服务器的差异（不能根据系统与服务的状态来判断负载）

 实践建议

将DNS作为第一级负载均衡，A记录对应着内部负载均衡的IP地址，通过内部负载均衡将请求分发到真实的Web服务器上。一般用于互联网公司，复杂的业务系统不合适使用。如下图：

 

 

 

 

1.3  IP负载均衡

在网络层通过修改请求目标地址进行负载均衡。

用户请求数据包，到达负载均衡服务器后，负载均衡服务器在操作系统内核进程获取网络数据包，根据负载均衡算法得到一台真实服务器地址，然后将请求目的地址修改为，获得的真实ip地址，不需要经过用户进程处理。

真实服务器处理完成后，响应数据包回到负载均衡服务器，负载均衡服务器，再将数据包源地址修改为自身的ip地址，发送给用户浏览器。如下图：

 

 

 

IP负载均衡，真实物理服务器返回给负载均衡服务器，存在两种方式：（1）负载均衡服务器在修改目的ip地址的同时修改源地址。将数据包源地址设为自身盘，即源地址转换（snat）。（2）将负载均衡服务器同时作为真实物理服务器集群的网关服务器。

 优点：

（1）在内核进程完成数据分发，比在应用层分发性能更好；

缺点：

（2）所有请求响应都需要经过负载均衡服务器，集群最大吞吐量受限于负载均衡服务器网卡带宽；

2.4链路层负载均衡

在通信协议的数据链路层修改mac地址，进行负载均衡。

数据分发时，不修改ip地址，指修改目标mac地址，配置真实物理服务器集群所有机器虚拟ip和负载均衡服务器ip地址一致，达到不修改数据包的源地址和目标地址，进行数据分发的目的。

实际处理服务器ip和数据请求目的ip一致，不需要经过负载均衡服务器进行地址转换，可将响应数据包直接返回给用户浏览器，避免负载均衡服务器网卡带宽成为瓶颈。也称为直接路由模式（DR模式）。如下图：

 

 

 

优点：性能好；

缺点：配置复杂；

实践建议：DR模式是目前使用最广泛的一种负载均衡方式。

2.5混合型负载均衡

由于多个服务器群内硬件设备、各自的规模、提供的服务等的差异，可以考虑给每个服务器群采用最合适的负载均衡方式，然后又在这多个服务器群间再一次负载均衡或群集起来以一个整体向外界提供服务（即把这多个服务器群当做一个新的服务器群），从而达到最佳的性能。将这种方式称之为混合型负载均衡。

此种方式有时也用于单台均衡设备的性能不能满足大量连接请求的情况下。是目前大型互联网公司，普遍使用的方式。

方式一，如下图：

 

 

以上模式适合有动静分离的场景，反向代理服务器（集群）可以起到缓存和动态请求分发的作用，当时静态资源缓存在代理服务器时，则直接返回到浏览器。如果动态页面则请求后面的应用负载均衡（应用集群）。

方式二，如下图：

 

以上模式，适合动态请求场景。

因混合模式，可以根据具体场景，灵活搭配各种方式，以上两种方式仅供参考。

 

三、负载均衡算法

常用的负载均衡算法有，轮询，随机，最少链接，源地址散列，加权等方式；

3.1 轮询

将所有请求，依次分发到每台服务器上，适合服务器硬件同相同的场景。

优点：服务器请求数目相同；

缺点：服务器压力不一样，不适合服务器配置不同的情况；

3.2 随机

请求随机分配到各个服务器。
优点：使用简单；

缺点：不适合机器配置不同的场景；

3.3 最少链接

将请求分配到连接数最少的服务器（目前处理请求最少的服务器）。

优点：根据服务器当前的请求处理情况，动态分配；

缺点：算法实现相对复杂，需要监控服务器请求连接数；

3.4 Hash（源地址散列）

根据IP地址进行Hash计算，得到IP地址。

优点：将来自同一IP地址的请求，同一会话期内，转发到相同的服务器；实现会话粘滞。

缺点：目标服务器宕机后，会话会丢失；

3.5 加权

在轮询，随机，最少链接，Hash’等算法的基础上，通过加权的方式，进行负载服务器分配。

优点：根据权重，调节转发服务器的请求数目；

缺点：使用相对复杂；

四、硬件负载均衡

采用硬件的方式实现负载均衡，一般是单独的负载均衡服务器，价格昂贵，一般土豪级公司可以考虑，业界领先的有两款，F5和A10。

使用硬件负载均衡，主要考虑一下几个方面：

（1）功能考虑：功能全面支持各层级的负载均衡，支持全面的负载均衡算法，支持全局负载均衡；

（2）性能考虑：一般软件负载均衡支持到5万级并发已经很困难了，硬件负载均衡可以支持

（3）稳定性：商用硬件负载均衡，经过了良好的严格的测试，从经过大规模使用，在稳定性方面高；

（4）安全防护：硬件均衡设备除具备负载均衡功能外，还具备防火墙，防DDOS攻击等安全功能；

（5）维护角度：提供良好的维护管理界面，售后服务和技术支持；

（6）土豪公司：F5 Big Ip 价格：15w~55w不等；A10 价格：55w-100w不等；

缺点

（1）价格昂贵；

（2）扩展能力差；

4.4小结

（1）一般硬件的负载均衡也要做双机高可用，因此成本会比较高。

（2）互联网公司一般使用开源软件，因此大部分应用采用软件负载均衡；部分采用硬件负载均衡。

比如某互联网公司，目前是使用几台F5做全局负载均衡，内部使用Nginx等软件负载均衡。

五、本次分享总结

 以上主要从负载均衡原理，分类，算法，硬件负载均衡进行了介绍。

 

目录：
1.Java开源生鲜电商平台-系统简介 https://www.cnblogs.com/jurendage/p/9012355.html
2.Java开源生鲜电商平台-系统架构与技术选型(源码可下载） https://www.cnblogs.com/jurendage/p/9012922.html
3.Java开源生鲜电商平台-盈利模式详解(源码可下载） https://www.cnblogs.com/jurendage/p/9016411.html
4.Java开源生鲜电商平台-用户表的设计(源码可下载） https://www.cnblogs.com/jurendage/p/9017912.html
5.Java开源生鲜电商平台-商品表的设计(源码可下载） https://www.cnblogs.com/jurendage/p/9022917.html
6.Java开源生鲜电商平台-订单表的设计(源码可下载） https://www.cnblogs.com/jurendage/p/9029467.html
7.Java开源生鲜电商平台-支付模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9034444.html
8.Java开源生鲜电商平台-购物车模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9039195.html
9.Java开源生鲜电商平台-推荐系统模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9044283.html
10.Java开源生鲜电商平台-财务系统模块的设计与架构(源码可下载）https://www.cnblogs.com/jurendage/p/9049318.html
11.Java开源生鲜电商平台-账单模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9053417.html
12.Java开源生鲜电商平台-提现模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9053523.html
13.Java开源生鲜电商平台-订单抽成模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9059304.html
14.Java开源生鲜电商平台-搜索模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9062649.html
15.Java开源生鲜电商平台-售后模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9066307.html
16.Java开源生鲜电商平台-监控模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9070442.html
17.Java开源生鲜电商平台-异常模块的设计与架构(源码可下载）https://www.cnblogs.com/jurendage/p/9075219.html
18.Java开源生鲜电商平台-性能优化以及服务器优化的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9081062.html
19.Java开源生鲜电商平台-安全设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9087581.html
20.Java开源生鲜电商平台-优惠券设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9091587.html
21.Java开源生鲜电商平台-通知模块设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9095078.html
22.Java开源生鲜电商平台-团购模块设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9098368.html
23.Java开源生鲜电商平台-服务器部署设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9103339.html
24.Java开源生鲜电商平台-系统报表设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9108863.html
25.Java开源生鲜电商平台-源码地址公布与思考和建议 https://www.cnblogs.com/jurendage/p/9114796.html
26.Java开源生鲜电商平台-RBAC系统权限的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9120168.html
27.Java开源生鲜电商平台-物流配送的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9124947.html
28.Java开源生鲜电商平台-库存管理设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9130455.html
29.Java开源生鲜电商平台-销售管理设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9131557.html
30.Java开源生鲜电商平台-电商促销业务分析设计与系统架构(源码可下载） https://www.cnblogs.com/jurendage/p/9137815.html
31.Java开源生鲜电商平台-一次代码重构的实战案例(源码可下载） https://www.cnblogs.com/jurendage/p/9143105.html
32.Java开源生鲜电商平台-商品价格的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9148906.html
33.Java开源生鲜电商平台-定时器,定时任务quartz的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9153835.html
34.Java开源生鲜电商平台-高并发的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9159020.html
35.Java开源生鲜电商平台-技术方案与文档下载(源码可下载） https://www.cnblogs.com/jurendage/p/9162190.html
36.Java开源生鲜电商平台-积分,优惠券,会员折扣,签到、预售、拼团、砍价、秒杀及抽奖等促销模块架构设计(源码可下载） https://www.cnblogs.com/jurendage/p/9165594.html
37.Java开源生鲜电商平台-供应链模块的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9171467.html
38.Java开源生鲜电商平台-会员积分系统的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9176010.html
39.Java开源生鲜电商平台-redis缓存在商品中的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9181380.html
40.Java开源生鲜电商平台-商品无限极目录的设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9185990.html
41.Java开源生鲜电商平台-物流动态费率、免运费和固定运费设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9189736.html
42.Java开源生鲜电商平台-商品的spu和sku数据结构设计与架构(源码可下载） https://www.cnblogs.com/jurendage/p/9194551.html
43.Java开源生鲜电商平台-你应该保留的一些学习态度与学习方法(源码可下载） https://www.cnblogs.com/jurendage/p/9197096.html

 

Java开源生鲜电商平台-Java分布式以及负载均衡架构与设计详解(源码可下载） ,如果需要下载的话，可以在我的github下面进行下载。  

https://github.com/137071249/

群号：168096884