构建互联网高性能WEB系统经验总结

互联网发展至今各种应用层出不穷，用户量动辄上亿。所以如何构建一个优秀的高性能、高可靠的应用系统对每一个开发者至关重要。本文将我所学到和在工作中使用到的一些方法归纳总结，希望给其他同学起到一些借鉴作用，在以后的开发中遇到类似的问题，能快速的找到解决方案。本人主要使用语言是java，所以下面不做特殊说明，都是使用java语言

高性能的关键

要想做到高性能，我总结了三点：

1. 缓存
   
   • dns缓存
   • 数据库缓存
   • 分布式缓存
2. 拆分
   
   • 业务拆分
   • 数据库拆分
3. 异步
   
   • 网络异步
   • 磁盘异步
   • 使用消息

上面举了一些三点中常见的情况，无论什么地方遇到性能瓶颈，谨记这三点，大多数时候都能找到解决方案。以下分别介绍在整个架构中各个方面对这三点的应用

无状态服务

说无状态服务我们首先要想到无状态对象，无状态对象简单的可以理解为没有field的对象，比如model/entity对象就不属于无状态对象，因为他含有field，比如典型mvc场景的**controller，**service就是无状态的，他们只含有method。有的也是有状态的，比如structs2框架的action，所以structs2现在用得比较少了。有了无状态对象，我们才有可能构建无状态服务，因为请求链路中不包含有状态对象，所以我们每一次请求都是独立的，这样的架构有助于我们服务进行扩展。

无状态服务有时候不可避免的会遇到一些有状态的对象，比如最常见的就是session。因为http请求本身是无状态的，所以必须cookie和session配合使用，才能识别多次http请求属于同一用户。一般有两种方法解决：

• 使用cookie存储
• 使用分布式session服务

第一种就是将对象信息全部存储在cookie中，通过相应的算法等在服务端将cookie中的信息读出来。这些信息一般都会进行加密处理。
第二种方法，就是将session存储在分布式数据库或者分布式缓存中，一般存在redis或者memcache中。那这种服务扩展会依赖第三方数据库或缓存的能力。淘宝有类似的组件，开源世界也有基于memcache和redis的分布式session

无状态服务用到了拆分和缓存

业务拆分

无状态可以使应用服务水平扩展，但是当单个应用太大太臃肿时，有必要对应用进行拆分。垂直拆分即按业务拆分，比如电商系统中，按照订单系统，积分系统等进行拆分。拆分可以方便开发，更方便扩展。系统大了以后，每个业务的访问量是不一样的，比如买家系统肯定比卖家系统访问量大得多，这时候就可以只增加买家系统的机器即可。

除了按照业务的不同拆分成不同的系统以外，针对我们的应用分层也可以进行拆分，一般分为应用层、逻辑层和原子层。应用层就是各种数据、逻辑业务的组装，逻辑层含有大量可重用逻辑，原子层直接操作数据库，一些基本的数据操作包含在其中。

不论以何种形式拆分，拆分以后的系统在物理层面上就分离开来，所以系统间的通信是拆分中最重要的问题所在。

rpc

在rpc服务之前已经许多系统通信的方法，比如rmi、webservice，但是rpc以更方便，更高效，跨平台的方式现在成为主流的通信手段。几乎每个大公司都有自己的rpc框架：淘宝的hsf、58的scf，也有非常多优秀的开源框架：dubbo、grpc、thrift等等。国内用dubbo的大公司也很多：京东、当当都是。

mq

rpc调用一般是用在耦合比较重，同步调用的场景下。而mq作为另一种异步通信的手段也被广泛使用在各个业务中。常用的有：activemq、rabbitmq、kafka、rocketmq。前两个一般作为企业级应用，主要特点是支持非常多的特性和规范。后两者是互联网级的，拥有更强力的吞吐和更高的性能，但是牺牲了很多mq的特性。mq一般用在要求最终一直性即可的场景，比如用户注册和发积分这两个动作，可以用户注册以后直接返回前台成功，然后发送注册成功消息给mq系统，发积分动作订阅注册事件，消费mq的事件信息。

mq最大的好处就是削峰和解耦，在rpc式的同步调用场景中，如果同一个逻辑中调用a和b，那么在扩展的时候，a和b一定是需要同时扩展的，但是有了消息以后，a发送消息给b，及时b暂时处理不了，也可以等到a峰值过后b继续处理，即使b短期无法匹配a的发送消息能力也没有关系。

数据库拆分

一般项目都会经历数据量从小到大的变化，所以数据库拆分也是根据不同的数据量已经不同的阶段进行相应的处理。

读写分离，这是大多数应用在遇到性能瓶颈第一要干的事。大多数互联网应用都是读占道90%以上的场景。所以一主多从，一个master做写，其他slave做读即可。但是这种主从模式也存在一些问题，比如有一些数据需要及时性比较高，就是在写入以后马上需要读到。因为主从同步是通过log异步复制，所以存在数据不一致窗口，这个时候必须要通过强行读取主库来保证数据的安全，在开发的时候一定要注意。

垂直分割，就是通过拆分将不同的业务放在不同的数据库中，这样就可以减少单一数据库的压力，提高整体性能。垂直分割要注意的是业务边界问题，边界问题就是有一个表，感觉放在a中和放在b库中都合适。这个就要靠经验了，不能过分的考虑，因为其实不论你在之前分得有多好，在应用的迭代中，总会出现更多的找不到明确边界的表。这个问题在业务模块划分中也是一样。

水平分割，一般就是说sharding。将同一个表中的不同字段，拆分成不同的表，或者将同一张表按照hash或者业务字段分成不同的分片。这种一般需要dal框架的支持，其中有tddl、cobar、mycat等。主要就是通过框架让程序编写者对数据库的拆分不可见，就像操作一个数据库一样。不过现在的dal框架还不能达到这样的目的，尤其是在跨库事务的场景下，一般都需要其他方式处理。

跨库事务/分布式事务

跨库事务一般都是通过最终一致性来解决，即不强求acid都能满足，容许数据不一致的时间窗口，但是总会有一个时间点数据会到最终一致的状态。解决方案非常的多，不过核心原理都是一样，不外乎都是靠补偿来完成的。

缓存的使用

计算机世界有一句名言：“计算机科学领域的任何问题都可以通过增加一个间接的中间层来解决”。缓存就是一种中间层。

使用缓存的场景非常非常的多，几乎到了你能想到的所有地方。这里我们讲通常的数据库数据缓存

缓存一般有两种，local和remote，一般来说使用一种缓存即可，因为缓存虽好，但是维护缓存的更新和删除却是一件非常麻烦得事。一般缓存可分为读缓存（大多数场景）和写缓存（一般针对数据安全性比较低的场景）。

比如将数据库中的数据读出时同时写入缓存中，下一次读数据的时候就可以直接读取缓存中的数据，从而大大减小数据库的压力，说起来很简单，其实这也存在很多种的架构，每种架构都有利弊，大家可以详细去了解。

写缓存，就是先将数据写入缓存中，然后一段时间再持久化，这样同样会提高效率，这种方案的问题在于如果这时候宕机，部分数据将会丢失，所以适用于数据安全性较低的场景。

缓存虽然速度快，除了维护更新较为麻烦的是，内存也是较为昂贵的硬件，所以除了将热点数据存储在缓存中，一般缓存中维护数据的索引或者主要字段用于列表显示，真正的大而全的数据还需要其他方法解决。

静态化

对于大多数场景，我们的数据在一定时间都是不会变化的，或者说即使变化，也只是页面的一小部分会发生变化，可以将不变化的部分单独拿出来做静态化。比如京东商城的页面就是静态化的，静态化以后，数据不用每次都从缓存或者数据库中取得，然后再封装成页面，而是直接请求返回静态页面，性能无疑提升了非常大。

除了以上常用的方法外，还要非常多的重要的方法：

• cdn加速
• dns缓存
• 页面缓存
• 使用分布式存储
• 使用多线程编写程序