Redis_删除策略与逐出算法

数据删除策略

时效性数据的存储结构

定时删除

• 创建一个定时器，当key设置有过期时间，且过期时间到达时，由定时器任务立即执行对键的删除操作
• 优点：节约内存，到时就删除，快速释放掉不必要的内存占用
• 缺点：CPU压力很大，无论CPU此时负载量多高，均占用CPU，会影响redis服务器响应时间和指令吞吐量
• 总结：用处理器性能换取存储空间 （拿时间换空间）

惰性删除

• 数据到达过期时间，不做处理。等下次访问该数据时执行expireIfNeeded()
  • 如果未过期，返回数据
  • 发现已过期，删除，返回不存在
• 优点：节约CPU性能，发现必须删除的时候才删除
• 缺点：内存压力很大，出现长期占用内存的数据
• 总结：用存储空间换取处理器性能（拿空间换时间）

定期删除

• Redis启动服务器初始化时，读取配置server.hz的值，默认为10

• 每秒钟执行server.hz次serverCron()

• serverCron()调用databasesCron()对默认16个db进行轮询

• databasesCron()调用activeExpireCycle()对每个expires[*]逐一进行检测，每次执行250ms/server.hz

• 对某个expires[*]检测时，随机挑选W个key检测

  • 如果key超时，删除key
  • 如果一轮中删除的key的数量>W*25%，循环该过程
  • 如果一轮中删除的key的数量≤W25%，检查下一个expires[]，0-15循环
  • W取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP属性值

• 参数current_db用于记录activeExpireCycle() 进入哪个expires[*] 执行

• 如果activeExpireCycle()执行时间到期，下次从current_db继续向下执行

• 周期性轮询redis库中的时效性数据，采用随机抽取的策略，利用过期数据占比的方式控制删除频度

• 特点1：CPU性能占用设置有峰值，检测频度可自定义设置

• 特点2：内存压力不是很大，长期占用内存的冷数据会被持续清理

• 总结：周期性抽查存储空间（随机抽查，重点抽查）

删除策略比对

删除策略	内存占用	CPU占用	特点
定时删除	节约内存，无占用	不分时段占用CPU资源，频度高	拿时间换空间
惰性删除	内存占用严重	延时执行，CPU利用率高	拿空间换时间
定期删除	内存定期随机清理	每秒花费固定的CPU资源维护内存	随机抽查，重点抽查

Redis一般采用惰性删除和定期删除结合的策略。

逐出算法

新数据进入检测

• Redis使用内存存储数据，在执行每一个命令前，会调用freeMemoryIfNeeded()检测内存是否充足。如果内存不满足新加入数据的最低存储要求，redis要临时删除一些数据为当前指令清理存储空间。清理数据的策略称为逐出算法。
• 逐出数据的过程不是100%能够清理出足够的可使用的内存空间，如果不成功则反复执行。当对所有数据尝试完毕后，如果不能达到内存清理的要求，将出现错误信息。

(error) OOM command not allowed when used memory >'maxmemory'

影响数据逐出的相关配置

• 最大可使用内存。占用物理内存的比例，默认值为0，表示不限制。生产环境中根据需求设定，通常设置在50%以上。

maxmemory

• 每次选取待删除数据的个数。选取数据时并不会全库扫描，导致严重的性能消耗，降低读写性能。因此采用随机获取数据的方式作为待检测删除数据。

maxmemory-samples

• 删除策略。达到最大内存后的，对被挑选出来的数据进行删除的策略

maxmemory-policy

• 检测易失数据（可能会过期的数据集server.db[i].expires ）
  • volatile-lru：挑选最近最长时间未使用的数据淘汰
  • volatile-lfu：挑选最近使用次数最少的数据淘汰
  • volatile-ttl：挑选将要过期的数据淘汰
  • volatile-random：任意选择数据淘汰
• 检测全库数据（所有数据集server.db[i].dict ）
  • allkeys-lru：挑选最近最长时间未使用的数据淘汰
  • allkeys-lfu：挑选最近使用次数最少的数据淘汰
  • allkeys-random：任意选择数据淘汰
• 放弃数据驱逐
  • no-enviction（驱逐）：禁止驱逐数据（redis4.0中默认策略），会引发错误OOM（Out Of Memory）

数据逐出策略配置依据

使用INFO命令输出监控信息，查询缓存 hit 和 miss 的次数，根据业务需求调优Redis配置

参考

112节Redis从入门到精通