超全面Redis分布式高可用方案:哨兵机制

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: 开发工作中对于分布式缓存高可用方案(搭建 Redis 缓存高可用方案),Redis 主从架构下是如何保证高可用的呢?

微信图片_20220609110241.jpg

开发工作中对于分布式缓存高可用方案(搭建 Redis 缓存高可用方案),Redis 主从架构下是如何保证高可用的呢?


我们知道 Redis Sentinel 是一个分布式系统,为 Redis 提供高可用性解决方案。那 Redis 服务部署的哨兵模式主要原理是什么,又解决了什么问题呢,于是利用时间将相关问题做了整理,相信看完这篇文章,你也可以去给别人做技术分享了。O(∩_∩)O 哈哈~


0. 问题铺垫


在讨论哨兵模式之前,我们先来看一个应用问题:Redis服务主机宕机


实际使用过程中,会出现master宕机的情况(这样会导致没有写服务,只有读服务)。那我们要保证服务的可用,就需要从其他salve节点中选取一个来作为master节点,来继续提供服务能力。


那主要的动作抽象下:


  • 将宕机的master下线


  • 找一个slave作为master


  • 通知所有的slave连接新的master


  • 全量数据或者部分数据同步

其中存在几个问题:


  • 谁来确认master宕机?(假如仅仅是网络抖动了一下,就把我宕掉么?)
  • 如何从slave中找一个master代替,谁来找?怎么找?有什么依据?
  • 修改配置后,原始的主恢复了怎么办?

其实引入哨兵机制,就可以很好的解决上述问题。

微信图片_20220609110244.png

哨兵-Redis集群

1. 什么是哨兵?


Sentinel(哨兵)是Redis 的高可用性解决方案:由一个或多个Sentinel 实例组成的Sentinel 系统可以监视任意多个主服务,以及这些主服务器属下的所有从服务,并在被监视的主服务进入下线(不可服务)状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器。


总结一下哨兵的作用:


  • 集群监控


   不断的检查master和slave是否正常运行(master存活检测、master与slave运行情况检测)


  • 消息通知


   当被监控的服务器出现问题时,向其他哨兵、客户端发送通知


  • 自动故障转移


   断开故障master与slave的连接,选取一个slave作为新master,将其他slave连接到新的master并告知客户端新的服务器地址。


注意:哨兵也是一台Redis服务器,只是不提供数据服务;通常哨兵配置的数量为单数。


2. 哨兵的工作原理


下面主要针对哨兵在进行故障转移过程中经历的三个阶段分别进行阐述。


2.1. 集群监控


step1:哨兵1连接到Redis集群


  • 发送info命令到master,并建立cmd连接;


  • 哨兵端保存哨兵状态(SentinelStatus),保存所有哨兵状态,主节点和从节点的信息;master端会记录 redis 实例的信息(SentinelRedisInstance);


  • 哨兵根据master中获取的每个slave信息,去连接每个slave,发送同样也是info命令。

微信图片_20220609110247.png

集群监控


step2:哨兵2加入进来后


  • 同样会发送info命令到master节点,并建立cmd连接;


  • 发现master中存在其他哨兵节点的信息,哨兵2中保存哨兵信息(区别与哨兵1的是它保存了哨兵1和哨兵2的2个哨兵节点信息);


  • 为了每个哨兵的信息都一致它们之间建立了一个发布订阅。为了哨兵之间的信息长期对称它们之间也会互发 ping 命令。

微信图片_20220609110249.png

集群监控


step3:哨兵3加入后


  • 同样进行哨兵1、2的动作,会发送info命令到master节点,并建立cmd连接;


  • 为了保证哨兵1-哨兵2之间的信息是同步的,建立了一个发布订阅的一个队列(可以互发ping命令)

微信图片_20220609110252.png

集群监控


小小总结一下:


  • Sentinel会向master、slave以及其他Sentinel获取状态;


  • Sentinel之间会组建“对应频道”,大家一起发布信息、订阅信息、收信息、同步信息等。


2.2. 消息通知


1)Sentinel节点会通过master/slave 节点建立的cmd连接获取其工作状态


2)Sentinel收到反馈结果之后,会在哨兵内部进行信息的互通


微信图片_20220609110255.png

消息通知

2.3. 故障转移


关于故障转移,严格来讲可划分两个步骤:故障判定故障转移


Q1:如何判断一个节点出现故障?


  • 哨兵会一直给主节点发送 publish sentinel:hello


直到主节点故障,哨兵报出 sdown,同时此哨兵还会向其他哨兵发布消息说这个主节点挂了。发送的指令是 sentinel is-master-down-by-address-port。


  • 其余的哨兵接收到指令后,主节点挂了吗?让我去看看到底挂没挂。发送的信息也是 hello。


其余的哨兵也会发送他们收到的信息并且发送指令 sentinel is-master-down-by-address-port 到自己的内网,确认一下第一个发送 sentinel is-master-down-by-address-port 的哨兵说你说的对,这个家伙确实挂了。


  • 当所有人都认为主节点挂了后就会修改其状态为 odown。


当一个哨兵认为主节点挂了标记的是 sdown,当半数哨兵都认为挂了其标记的状态是 odown。


一个哨兵认为master节点挂了称为主观下线(sdown),超半数哨兵认为master节点挂了则称为客观下线(odown)。


微信图片_20220609110258.png

Q2:如何进行故障转移?


1)首先,哨兵选举出哨兵Leader去处理故障转移


此时选举方式应用的是Raft协议,这个之前有过介绍,感兴趣的同学可以移步了解:一致性算法Raft 简易入门


2)其次,哨兵Leader从所有的slave节点找出一个作为master节点


主要的规则:


  • 选择在线的节点,pass掉已下线的节点;


  • 选择响应速度快的,pass掉响应慢的节点


  • 选择与原master断开时间短的,pass掉断开时间较长的;


假如以上优先级均一致,会考虑其他优先原则:


  • 偏移量较大


假如说 slave1 的 offset 为 50,slave2 偏移量为 55,则哨兵就会选择 slave2 为新的主节点。


  • runid偏大的


这点类似于职场中的论资排辈,也就说根据 runid 的创建时间来判断,时间早的先上位。



3)数据转移


  • 新master上任:Sentinel向新的master发送slaveof no one


  • 其他slave周知:向其他slave发送slaveof 新master IP端口


3. 总结


Redis 主从复制的作用中有这么一句话“主从复制是高可用的基石”,那实现高可用必不可少的就是哨兵和集群。


3.1 Sentinel的作用


  • 集群监控


不断的检查master和slave是否正常运行(master存活检测、master与slave运行情况检测)


  • 消息通知


当被监控的服务器出现问题时,向其他哨兵、客户端发送通知


  • 自动故障转移


断开故障master与slave的连接,选取一个slave作为新master,将其他slave连接到新的master并告知客户端新的服务器地址。


3.2 Sentinel的工作方式


  • 每个Sentinel以每秒钟一次的频率向它所知的Master,Slave以及其他 Sentinel 实例发送一个 PING 命令


  • 如果一个实例(Instance)距离最后一次有效回复 PING 命令的时间超过 down-after-milliseconds 选项所指定的值, 则这个实例会被 Sentinel 标记为主观下线。


若 Master 重新向 Sentinel 的 PING 命令返回有效回复, Master 的主观下线状态就会被移除。


  • 如果一个Master被标记为主观下线,则正在监视这个Master的所有 Sentinel 要以每秒一次的频率确认Master的确进入了主观下线状态。


  • 当有足够数量的 Sentinel(>=配置文件指定的值)在指定的时间范围内确认Master的确进入了主观下线状态, 则Master会被标记为客观下线


若没有足够数量的 Sentinel 同意 Master 已经下线, Master 的客观下线状态就会被移除。


  • 在一般情况下, 每个 Sentinel 会以每 10 秒一次的频率向它已知的所有Master,Slave发送 INFO 命令


  • 当Master被 Sentinel 标记为客观下线时,Sentinel 向下线的 Master 的所有 Slave 发送 INFO 命令的频率会从 10 秒一次改为每秒一次
相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
1月前
|
NoSQL Java Redis
太惨痛: Redis 分布式锁 5个大坑,又大又深, 如何才能 避开 ?
Redis分布式锁在高并发场景下是重要的技术手段,但其实现过程中常遇到五大深坑:**原子性问题**、**连接耗尽问题**、**锁过期问题**、**锁失效问题**以及**锁分段问题**。这些问题不仅影响系统的稳定性和性能,还可能导致数据不一致。尼恩在实际项目中总结了这些坑,并提供了详细的解决方案,包括使用Lua脚本保证原子性、设置合理的锁过期时间和使用看门狗机制、以及通过锁分段提升性能。这些经验和技巧对面试和实际开发都有很大帮助,值得深入学习和实践。
太惨痛: Redis 分布式锁 5个大坑,又大又深, 如何才能 避开 ?
|
11天前
|
NoSQL Redis
Redis分布式锁如何实现 ?
Redis分布式锁通过SETNX指令实现,确保仅在键不存在时设置值。此机制用于控制多个线程对共享资源的访问,避免并发冲突。然而,实际应用中需解决死锁、锁超时、归一化、可重入及阻塞等问题,以确保系统的稳定性和可靠性。解决方案包括设置锁超时、引入Watch Dog机制、使用ThreadLocal绑定加解锁操作、实现计数器支持可重入锁以及采用自旋锁思想处理阻塞请求。
47 16
|
22天前
|
NoSQL 算法 关系型数据库
分布式 ID 详解 ( 5大分布式 ID 生成方案 )
本文详解分布式全局唯一ID及其5种实现方案,关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
分布式 ID 详解 ( 5大分布式 ID 生成方案 )
|
30天前
|
存储 缓存 NoSQL
分布式架构下 Session 共享的方案
【10月更文挑战第15天】在实际应用中,需要根据具体的业务需求、系统架构和性能要求等因素,选择合适的 Session 共享方案。同时,还需要不断地进行优化和调整,以确保系统的稳定性和可靠性。
|
1月前
|
NoSQL Redis 数据库
计数器 分布式锁 redis实现
【10月更文挑战第5天】
48 1
|
1月前
|
消息中间件 存储 监控
消息队列系统中的确认机制在分布式系统中如何实现?
消息队列系统中的确认机制在分布式系统中如何实现?
|
机器学习/深度学习 缓存 NoSQL
|
缓存 NoSQL Java
为什么分布式一定要有redis?
1、为什么使用redis 分析:博主觉得在项目中使用redis,主要是从两个角度去考虑:性能和并发。当然,redis还具备可以做分布式锁等其他功能,但是如果只是为了分布式锁这些其他功能,完全还有其他中间件(如zookpeer等)代替,并不是非要使用redis。
1364 0
|
1月前
|
消息中间件 缓存 NoSQL
Redis 是一个高性能的键值对存储系统,常用于缓存、消息队列和会话管理等场景。
【10月更文挑战第4天】Redis 是一个高性能的键值对存储系统,常用于缓存、消息队列和会话管理等场景。随着数据增长,有时需要将 Redis 数据导出以进行分析、备份或迁移。本文详细介绍几种导出方法:1)使用 Redis 命令与重定向;2)利用 Redis 的 RDB 和 AOF 持久化功能;3)借助第三方工具如 `redis-dump`。每种方法均附有示例代码,帮助你轻松完成数据导出任务。无论数据量大小,总有一款适合你。
77 6
|
10天前
|
缓存 NoSQL 关系型数据库
大厂面试高频:如何解决Redis缓存雪崩、缓存穿透、缓存并发等5大难题
本文详解缓存雪崩、缓存穿透、缓存并发及缓存预热等问题,提供高可用解决方案,帮助你在大厂面试和实际工作中应对这些常见并发场景。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
大厂面试高频:如何解决Redis缓存雪崩、缓存穿透、缓存并发等5大难题
下一篇
无影云桌面