Redis Sentinel(哨兵模式)

主从复制的问题

• 当master节点发生故障时，需要手动进行故障转移

• 写能力与存储能力受限，写能力和存储能力都依赖于master节点

 

 

redis sentinel架构

在主从复制的基础上，新增多个redis sentinel节点，这些sentinel不存储任何的数据。这些sentinel节点会完成redis的故障判断并故障转移的处理，然后通知客户端。一套redis sentinel集群可以监控多套redis主从，每一套redis主从通过master-name作为标识。

客户端不直接连接redis服务，而连接redis sentinel。在redis sentinel中清楚哪个节点是master节点。

故障转移流程

1. 多个sentinel发现并确认master有问题

2. 选举出一个sentinel作为领导

3. 选出一个slave作为master

4. 通知其余slave成为新的master的slave

5. 通知客户端主从发生的变化

6. 等待老的master复活成为新master的slave

 

 

redis sentinel的相关配置

配置	含义
port ${port}	sentinel的端口号
dir "/redisdatapath"	redis的工作目录
logfile "${port}.log"	redis的日志文件
sentinel monitor mymaster 127.0.0.1 7000 2	名称为mymaster的主从 masterip=127.0.0.1 masterport=7000 2个sentinel发现这个master有问题后执行故障转移
sentinel down-after-milliseconds mymaster 30000	每个sentinel在连续ping 30000ms不通后认为有问题
sentinel parallel-syncs mymaster 1	在故障转移时，该名称为mymaster的集群中 同一时间点只允许1个节点进行复制
sentinel failover-timeout mymaster 180000	故障转移的超时时间

 

redis sentinel的安装与配置

1.配置开启主从节点

• redis-7000.conf

port 7000
daemonize yes
pidfile /var/run/redis-7000.pid
logfile "7000.log"
dir /redisdatapath

• redis-7001.conf

port 7001
daemonize yes
pidfile /var/run/redis-7001.pid
logfile "7001.log"
dir /redisdatapath
slaveof 127.0.0.1  7000

• redis-7002.conf

port 7002
daemonize yes
pidfile /var/run/redis-7002.pid
logfile "7002.log"
dir /redisdatapath
slaveof 127.0.0.1 7000

2.配置开启sentinel监控主节点（sentinel是特殊的redis）

• redis-26379.conf（redis sentinel的默认端口是26379）

port 26379
daemonize yes
dir "/redisdatapath"
logfile "26379.log"
sentinel monitor mymaster 127.0.0.1 7000 2
sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000 

• redis-26380.conf

port 26380
daemonize yes
dir "/redisdatapath"
logfile "26380.log"
sentinel monitor mymaster 127.0.0.1 7000 2
sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000

• redis-26381.conf

port 26381
daemonize yes
dir "/redisdatapath"
logfile "26381.log"
sentinel monitor mymaster 127.0.0.1 7000 2
sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000

 

 

客户端接入基本原理

1. 客户端需要所有的sentinel节点以及对应的mastername

2. 客户端会遍历所有的sentinel节点，获取一个可用的sentinel节点

3. 向可用的sentinel调用 sentinel get-master-addr-by-name mastername， 可用的sentinel将返回master节点信息。

4. 客户端连接该master节点，调用role或者role replication，确认该节点是master节点。

5. 如果master发生故障转移，sentinel是能够感知，并通过发布订阅模型将最新的master信息告知客户端

set<string> sentinelset = new hashset<string>() {{
    add("127.0.0.1:26379");
    add("127.0.0.1:26380");
    add("127.0.0.1:26381");
}};
jedispoolconfig poolconfig = new jedispoolconfig();
string mastername = "mymaster";
int timeout = 30_000;   //jedis连接sentinel的超时时间
jedissentinelpool sentinelpool = new jedissentinelpool(
                mastername , sentinelset , poolconfig , timeout);
jedis jedis = sentinelpool.getresource();
jedis.close();

 

 

三个定时任务

• 每10秒每个sentinel对master和slave执行info

  • 发现slave节点

  • 确认主从关系

 

• 每2秒每个sentinel通过mster节点的channel交换信息（pub/sub)

  • 通过__sentinel__:hello频道交互

  • 交互对节点的“看法”和自身信息

 

• 每1秒每个sentinel对其他sentinel和redis执行ping

 

 

主观下线与客观下线

• 主观下线：每个sentinel节点对redis节点失败的看法。

  • sentinel down-after-milliseconds mastername timeout

  • 每个sentinel节点每秒会对redis节点进行ping，当连续timeout毫秒之后还没有得到pong，则sentinel认为redis下线。

• 客观下线：所有sentinel节点对redis节点失败达成共识。

• sentinel monitor mastername ip port quorum

• 大于等于quorum个sentinel主观认为redis节点失败下线

• 通过sentinel is-master-down-by-addr提出自己认为redis master下线

 

 

领导者选举

• 原因：只有sentinel节点完成故障转移

• 选举：通过 sentinel is-master-down-by-addr 命令都希望成为领导者

  • 每个主观下线的sentinel节点向其他sentinel节点发送命令，要求将它设置为领导者

  • 收到命令的sentinel节点如果没有同意其他sentinel节点发送的命令，那么将同意该请求，否则拒绝。

  • 如果该sentinel节点发现自己的票数已经超过sentinel集合半数且超过quorum，那么将它成为领导者

  • 如果此过程有多个sentinel节点成为了领导者，那么将等待一段时间重新进行选举

 

 

故障转移（sentinel领导者节点完成之后）

1. 从slave节点中选出一个“合适的”节点作为新的master节点

   • 选择slave-priority(slave节点优先级)最高的slave节点，如果存在则返回，不存在则继续

   • 选择复制偏移量最大的slave节点（复制的最完整性），如果存在则返回，不存在则继续

   • 选择runid最小的slave节点

2. 对上面的slave节点执行slave no one命令让其成为master节点

3. 向其余的slave节点发送命令，让它们成为新master节点的slave节点，复制规则和parallel-syncs参数有关。

4. 更新对原来master节点配置为slave，并保持对其“关注”，当其恢复后命令它去复制新的master节点

 

 

节点运维（上线与下线）

生产节点下线可能原因

• 机器下线：过保等情况

• 机器性能不足：例如cpu、内存、磁盘、网络等

1.主节点

##节点下线
##手动进行故障转移
sentinel failover ${mastername}
##跳过主观下线、客观下线与领导者选举，领导者即为当前连接的sentinel节点
​
##节点上线
config set slave-priority num  #调大新增节点的优先级
sentinel failover ${mastername}

2.从节点

需要区分是临时下线还是永久下线。例如需要做一些配置、aof、rdb等方面的清理工作。

当上线时候，执行slaveof masterip masterport即可

3.sentinel节点

需要区分是临时下线还是永久下线。例如需要做一些配置的清理工作。