缓存世界中的三大问题及解决方案
redis 经常用于系统中的缓存,可以极大地提高了系统性能和效率,但同时也带来一些问题。一个是数据一致性问题。从严格意义上讲,只要使用缓存,就会出现一致性问题,这是无法解决的。另一个问题是本文将讨论的缓存穿透,缓存击穿和缓存雪崩,这三个问题不仅限于 redis,其他缓存工具同样需要面对这三个问题。接下来我详细讲解这三个问题以及对应的解决方案。
一、缓存穿透
缓存穿透意味着当用户查询数据库不存在数据时,返回的结果为空,并且结果不会在缓存中存储。假设用户不断发起这样的请求,它将永远不会访问缓存,导致所有查询都落在数据库上,从而导致数据库被打死。
public object getgoods(long goodsid) { //从 redis 获取 goods 信息 object goodsinfo = redistemplate.opsforvalue() .get(string.valueof(goodsid)); if (goodsinfo != null) { return goodsinfo; } //从数据库查询 goods 信息,并存入 redis goodsinfo = goodsdao.selectbygoodsid(goodsid); if (goodsinfo != null) { redistemplate.opsforvalue() .set(string.valueof(goodsid), goodsinfo); } return goodsinfo; }
假设 goodsid 没有负数情况,如果发起一个参数 goodsid = -1 的请求,这个数据在缓存中肯定不会存在,每次它都会进入查询数据库,并且数据查询结果也是 null,并且不会缓存结果到 redis。
解:
1) 通过用户认证、参数验证等,在上层拦截这些不合理的请求;
2) 当数据库查询结果为空时,数据也被缓存,但缓存有效期设置较短,以免影响正常数据的缓存。
public object getgoods(long goodsid) { //从 redis 获取 goods 信息 object goodsinfo = redistemplate.opsforvalue() .get(string.valueof(goodsid)); if (goodsinfo != null) { return goodsinfo; } //从数据库查询 goods 信息,并存入 redis goodsinfo = goodsdao.selectbygoodsid(goodsid); if (goodsinfo != null) { redistemplate.opsforvalue() .set(string.valueof(goodsid), goodsinfo , 60, timeunit.minutes); } else { //查询为 null 同样存储 redistemplate.opsforvalue() .set(string.valueof(goodsid), null, 60, timeunit.seconds); } return goodsinfo; }
二、缓存击穿
缓存击穿意味着当热点数据存储到期时,多个线程同时请求热点数据。因为缓存刚过期,所有并发请求都会到数据库查询数据。
解:
实际上,在大多数实际业务场景中,缓存击穿是实时发生的,但不会对数据库造成太大压力,因为一般的公司业务,并发量不会那么高。当然如果你不幸有这种情况,你可以通过设置这些热点键,使其永远不会过期。另一种方法是通过互斥锁来控制查询数据库的线程访问,但这种会导致系统的吞吐率下降,需要实际情况使用。
三、缓存雪崩
数据未加载到缓存中,或者缓存同时在大范围中失效,导致所有请求查找数据库,导致数据库、cpu 和内存过载,甚至停机。
一个简单的雪崩过程:
1) redis 集群的大面积故障;
2) 缓存失败,但仍有大量请求访问缓存服务 redis;
3) 在大量 redis 请求失败后,请求转向数据库;
4) 数据库请求急剧增加,导致数据库被打死;
5) 由于你应用程序服务大部分都依赖于数据库和 redis 服务,它很快就会导致服务器集群的雪崩,最后整个系统将彻底崩溃。
解:
事前:高可用的缓存
高可用的缓存是防止出现整个缓存故障。即使个别节点,机器甚甚至机房都关闭,系统仍然可以提供服务,redis 哨兵(sentinel) 和 redis 集群(cluster) 都可以做到高可用。
事中:缓存降级(临时支持)
当访问次数急剧增加导致服务出现问题时,我们如何确保服务仍然可用。在国内使用比较多的是 hystrix,它通过熔断、降级、限流三个手段来降低雪崩发生后的损失。只要确保数据库不死,系统总可以响应请求,每年的春节 12306 我们不都是这么过来的吗?只要还可以响应起码还有抢到票的机会。
事后:redis 备份和快速预热
1) redis 数据备份和恢复
2) 快速缓存预热
四、小结
目前的大部分的系统都增加了缓存机制,避免对数据库造成过大压力导致系统出问题,极大的提升系统稳定性。虽然使用缓存能够给系统带来了一定的质的提升,但同时也带来缓存穿透、缓存击穿、缓存雪崩问题等问题。特别是当并发量增大、恶意攻击的时候,是很难避免。这些问题应该在设计系统时候就应该考虑,这样设计出来的系统才经得起考验。
上一篇: 运算符重载和深浅拷贝