在主从架构 Redis 搭建主从集群 中,一个 slave 节点挂了无影响,但是 master 节点挂了,就无法进行写操作了,影响高可用。
Redis 提供了哨兵(Sentinel)机制来实现主从集群的自动故障恢复。
0. 哨兵原理
哨兵的结构如图:
功能作用
- 检测哨兵机制会不断检查 master 和 slave 是否按预期工作。
- 故障恢复如果 master 故障,Sentinel 会将一个 slave 提升为 master 。当故障实例恢复后也以新的 master 为主。
- 通知:Sentinel 充当 Redis 客户端的服务发现来源,当集群发生故障转移时,会将最新消息推送给 Redis 客户端。
服务状态监控
Sentinel 基于心跳机制检测服务状态,每隔一秒向集群的每个实例发送 ping 命令:
- 主观下线:如果某 Sentinel 节点发现某实例未在规定的时间响应,则认为该实例主观下线。
- 客观下线:若超过指定数量(quorum)的 Sentinel 都认为该实例主观下线,则该实例客观下线。quorum 值最好超过 Sentinel 实例数量的一半。
选举新的 master
一旦发现master故障,sentinel需要在salve中选择一个作为新的master,选择依据是这样的:
- 首先会判断slave节点与master节点断开时间长短,如果超过指定值(down-after-milliseconds * 10)则会排除该slave节点
- 然后判断slave节点的slave-priority值,越小优先级越高,如果是0则永不参与选举
- 如果slave-prority一样,则判断slave节点的offset值,越大说明数据越新,优先级越高
- 最后是判断slave节点的运行id大小,越小优先级越高。
当选出一个新的master后,该如何实现切换呢?
流程如下:
- sentinel给备选的slave1节点发送slaveof no one命令,让该节点成为master
- sentinel给所有其它slave发送slaveof 192.168.150.101 7002 命令,让这些slave成为新master的从节点,开始从新的master上同步数据。
- 最后,sentinel将故障节点标记为slave,当故障节点恢复后会自动成为新的master的slave节点
1. 哨兵集群架构
三个sentinel实例信息如下:
节点 | IP | PORT |
s1 | 192.168.1.184 | 27001 |
s2 | 192.168.1.184 | 27002 |
s3 | 192.168.1.184 | 27003 |
ip 指的是 redis 所在服务器或者虚拟机的ip。
2. 准备实例和配置
要在同一台虚拟机开启3个实例,必须准备三份不同的配置文件和目录,配置文件所在目录也就是工作目录。
我们创建三个文件夹,名字分别叫s1、s2、s3:
# 进入/tmp目录 cd /tmp # 创建目录 mkdir s1 s2 s3
然后我们在s1目录创建一个sentinel.conf文件,添加下面的内容:
port 27001 sentinel announce-ip 192.168.1.184 sentinel monitor mymaster 192.168.1.184 7001 2 sentinel down-after-milliseconds mymaster 5000 sentinel failover-timeout mymaster 60000 dir "/tmp/s1"
解读:
port 27001:是当前sentinel实例的端口
sentinel monitor mymaster 192.168.1.184 7001 2:指定主节点信息
mymaster:主节点名称,自定义,任意写
192.168.1.184 7001:主节点的ip和端口
2:选举master时的quorum值
然后将s1/sentinel.conf文件拷贝到s2、s3两个目录中(在/tmp目录执行下列命令):
# 方式一:逐个拷贝 cp s1/sentinel.conf s2 cp s1/sentinel.conf s3 # 方式二:管道组合命令,一键拷贝 echo s2 s3 | xargs -t -n 1 cp s1/sentinel.conf
修改s2、s3两个文件夹内的配置文件,将端口分别修改为27002、27003:
sed -i -e 's/27001/27002/g' -e 's/s1/s2/g' s2/sentinel.conf sed -i -e 's/27001/27003/g' -e 's/s1/s3/g' s3/sentinel.conf
3. 启动
为了方便查看日志,我们打开3个ssh窗口,分别启动3个redis实例,启动命令:
# 第1个 redis-sentinel s1/sentinel.conf # 第2个 redis-sentinel s2/sentinel.conf # 第3个 redis-sentinel s3/sentinel.conf
启动后:
4. 测试
尝试让master节点7001宕机,查看sentinel日志:
查看7003的日志:
查看7002的日志:
5. RedisTemplate 的哨兵模式
在Sentinel集群监管下的Redis主从集群,其节点会因为自动故障转移而发生变化,Redis的客户端必须感知这种变化,及时更新连接信息。Spring的RedisTemplate底层利用lettuce实现了节点的感知和自动切换。
下面,我们通过一个测试来实现RedisTemplate集成哨兵机制。
配置地址
然后在配置文件application.yml中指定redis的sentinel相关信息:
spring: redis: sentinel: master: mymaster nodes: - 192.168.150.101:27001 - 192.168.150.101:27002 - 192.168.150.101:27003
配置读写分离
在项目的启动类中,添加一个新的bean:
@Bean public LettuceClientConfigurationBuilderCustomizer clientConfigurationBuilderCustomizer(){ return clientConfigurationBuilder -> clientConfigurationBuilder.readFrom(ReadFrom.REPLICA_PREFERRED); }
这个bean中配置的就是读写策略,包括四种:
- MASTER:从主节点读取
- MASTER_PREFERRED:优先从master节点读取,master不可用才读取replica
- REPLICA:从slave(replica)节点读取
- REPLICA _PREFERRED:优先从slave(replica)节点读取,所有的slave都不可用才读取master
当 Redis Sentinel(哨兵)发现主节点(master)宕机后,它会执行以下动作:
- 选举新的主节点:哨兵会从已知的 Redis 从节点(slave)中选举一个作为新的主节点。这个选择过程通常基于一定的算法和条件,比如优先级、复制偏移量等。
- 通知其他哨兵:选举出新的主节点后,哨兵会通知其他哨兵和客户端发生了主节点切换,以便它们更新自己的状态和连接信息。
- 更新从节点配置:哨兵会更新所有从节点的配置,使它们将新的主节点作为复制目标。
- 更新客户端配置:哨兵还会通知所有连接到它的客户端,主节点已经发生了变化,需要更新连接到新的主节点上。
- 执行故障转移:在选举新的主节点后,哨兵会触发故障转移操作,将从节点升级为新的主节点。这个过程中,哨兵会确保数据的一致性和可用性,尽可能地避免数据丢失。