一致性算法Raft 简易入门

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 当我们只有一个服务节点的情况下,是不存在节点共识的问题的,当存在多个不同服务节点时,才会引入分布式一致性的问题。

微信图片_20220607131119.png 一、Raft算法概述


当我们只有一个服务节点的情况下,是不存在节点共识的问题的,当存在多个不同服务节点时,才会引入分布式一致性的问题。


Raft是一种实现分布式共识的协议。所谓共识,就是多个节点对某个事情达成一致的看法,即使是在部分节点故障、网络延时、网络分割的情况下。


主要应用场景:


  • Redis Sentinel的选举Leader


  • Etcd 主要是共享配置和服务发现,实现一致性使用了Raft算法


  • 加密货币(比特币、区块链)的共识算法

主要解决什么问题?


分布式存储系统通常通过维护多个副本来提高系统的可用性,带来的代价就是分布式存储系统的核心问题之一:维护多个副本的数据一致性。


二、Raft算法实现流程


为了提高理解性,Raft将一致性算法分为了几个部分,包括领导选取(leader selection)、日志复制(log replication)、安全(safety),并且使用了更强的一致性来减少了必须需要考虑的状态。


本文通过一个小故事做示例,来便于大家快速理解。

 

2.1 Leader选举


部门需要成立一个新的服务小组,现在有三名同学A,B,C。

为了便于后期统一调配资源及管理需要,现需要从三名同学中选举出一名小组Leader。

A觉得自己有能力做好Leader职务,就向B、C说“来投票给我,我想当Leader”,这时候A成了候选人,并为自己事先投了一票。

1)假如B、C之前都没有想过要自己当Leader,那就说“好吧,投给你” → A获得3张选票,当选Leader

2)假如B之前想过自己当Leader,B投了自己一票 而C投了一票给A → A获得2张选票(3人中已超过半数),当选Leader

3)假如B、C都已经把票投给了自己 → A、B、C各获得自己的一票,选举失败重新发起

4)假如B之前想过自己当Leader,而且C已经把票投给了B → B获得2张选票(3人中已超过半数),当选Leader

微信图片_20220607131428.jpg


从以上选举流程可以发现,一个节点任一时刻肯定处于以下三状态之一:


  • Leader(领导者)


  • Follower(跟随者)


  • Candidate(候选人)

这三个状态的转移过程如下图所示:

微信图片_20220607131440.png

选举过程


第一步:Follower成为Candidate


如果Follower听不到Leader的意见,他们就可以成为Candidate


第二步:候选人争取票


投自己一票,并发送投票请求到其他节点,节点收到请求后进行回应


第三步:待其他节点回复


如果候选人得到了超半数的节点的投票(包含自己的一票),它就成为Leader

如果候选人被告知Leader已产生,则自行切换为Follower

一段时间内没有收到超半数投票,保持候选人状态,重新发起选举


第四步:候选人 赢得选举


新Leader会立刻给所有节点发消息,避免其他节点触发新的选举。


 

2.2 日志同步


在经过上述2.1 的Leader选举之后,已经选定了小组Leader,这里我们假定A已当选Leader。可以承担一些对接方同学(称为Client 端)提出的操作任务了。


规定每次需求对接,必须要经过小组Leader才可以。那员工提出操作请求,Leader接收到后记录下来,同时向组内其他同学进行同步,直到其他同学都确认了此需求后Leader才会确认操作并同步执行结果到员工(Follower节点)。

微信图片_20220607131444.jpg


Log Replication(日志复制)


经过Leader选举流程,产生了新的Leader节点,系统的所有变更都要通过Leader节点来实现。


第一步:Leader追加日志项(append log entry)


系统的每个更改都作为一个entry 添加到节点的日志中


第二步:Leader并行发出Append Entries RPC,并等待响应


Leader会一直等到超半数节点都写入entry,Leader节点提交,然后Leader通知Follower entry已提交。


第三步:Leader得到大多数回应,向状态机应用entry


状态机:可理解为一个确定的应用程序,所谓确定是指只要是相同的输入,那么任何状态机都会计算出相同地输出。


第四步:Leader回复Client,同时通知Follower应用log


目前集群已就系统状态达成了共识


log-based replicated state machine示意图:

微信图片_20220607131448.png

关于应用过程中的几个问题


假如Client 请求访问到了Follower节点怎么办?


解答:Follower节点会转发请求到Leader节点。


当Leader与Follower的日志不一致,需要如何处理?


解答:


 1)Leader通过强制Followers复制它的日志来处理日志的不一致,Followers上的不一致的日志会被Leader的日志覆盖。


 2)Leader为了使Followers的日志同自己的一致,Leader需要找到Followers同它的日志一致的地方,然后覆盖Followers在该位置之后的条目。


 3)Leader会从后往前试,每次AppendEntries失败后尝试前一个日志条目,直到成功找到每个Follower的日志一致位点,然后向后逐条覆盖Followers在该位置之后的条目。


2.3 安全性保障


为了保证团队运行的稳定,有几个默认的要求:

 

2.3.1 选举安全


即任一任期内最多一个leader被选出。假如系统中同时有多于一个leader,被称之为脑裂(brain split),这会导致数据的覆盖丢失。


一个团队某个时期内仅允许存在一个Leader(选举失败情况特殊情况除外),否则多个Leader同时处理需求发号施令,容易造成团队内步调不一致情况。


在raft中,两点保证了这个属性:


1)一个节点某一任期内最多只能投一票;


2)只有获得majority投票的节点才会成为leader。

 

2.3.2 Log 匹配完整性


同一团队内两名同学假如目前手头负责的事务是一致的,那之前他们的工作记录应该也是一致的。即:相同的初始状态+相同的操作=相同的结束状态


Leader将客户端请求封装到一个个的log entry,将这些log entries复制到其他Follower节点,大家按顺序应用这些请求,那最终状态肯定是一致的。


Raft日志同步结论:


1)如果不同日志中的两个条目有着相同的索引和任期号(term),则它们所存储的命令是相同的。


2)如果不同日志中的两个条目有着相同的索引和任期号(term),则它们之前的所有条目都是完全一样的。

 

2.3.3 leader数据完整性


团队内后继的leader,肯定应该知晓这个团队之前的工作内容,因为所有Leader任期内的工作记录是会做交接的。


如果一个log entry 在某个任期被提交,那么这条log一定会出现在所有更高term的leader的日志里面。


Raft日志覆盖规则:


1)一个日志被复制到majority节点才算committed


2)一个节点得到majority的投票才能成为leader,而节点A给节点B投票的其中一个前提是,B的日志不能比A的日志旧。


三、总结:


所有的算法实现原理,其实都是真实社会工作模式的影射,联系生活中的实际案例来理解复杂的一致性算法,可以让我们达到事半功倍的效果。


本文是让大家对raft协议有一个简单了解入门,如有兴趣去更深入了解,推荐给大家两个不错的链接:


1)Raft可视化测试以及各语言版本实现的Raft:https://raft.github.io/


2)Raft算法-动画演示(很好的入门教程):http://thesecretlivesofdata.com/raft/


相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
2月前
|
机器学习/深度学习 人工智能 算法
深度学习入门:理解神经网络与反向传播算法
【9月更文挑战第20天】本文将深入浅出地介绍深度学习中的基石—神经网络,以及背后的魔法—反向传播算法。我们将通过直观的例子和简单的数学公式,带你领略这一技术的魅力。无论你是编程新手,还是有一定基础的开发者,这篇文章都将为你打开深度学习的大门,让你对神经网络的工作原理有一个清晰的认识。
|
1月前
|
机器学习/深度学习 算法
机器学习入门(三):K近邻算法原理 | KNN算法原理
机器学习入门(三):K近邻算法原理 | KNN算法原理
|
1月前
|
算法
raft算法的自我理解
本文介绍了Raft算法的基本概念和工作原理,包括它如何通过日志复制和领导选举来实现分布式系统中不同机器的强一致性。
29 2
|
1月前
|
机器学习/深度学习 算法 大数据
机器学习入门:梯度下降算法(下)
机器学习入门:梯度下降算法(下)
|
1月前
|
机器学习/深度学习 算法 API
机器学习入门(五):KNN概述 | K 近邻算法 API,K值选择问题
机器学习入门(五):KNN概述 | K 近邻算法 API,K值选择问题
|
1月前
|
机器学习/深度学习 算法
机器学习入门:梯度下降算法(上)
机器学习入门:梯度下降算法(上)
|
3月前
|
机器学习/深度学习 人工智能 算法
AI入门必读:Java实现常见AI算法及实际应用,有两下子!
本文全面介绍了人工智能(AI)的基础知识、操作教程、算法实现及其在实际项目中的应用。首先,从AI的概念出发,解释了AI如何使机器具备学习、思考、决策和交流的能力,并列举了日常生活中的常见应用场景,如手机助手、推荐系统、自动驾驶等。接着,详细介绍了AI在提高效率、增强用户体验、促进技术创新和解决复杂问题等方面的显著作用,同时展望了AI的未来发展趋势,包括自我学习能力的提升、人机协作的增强、伦理法规的完善以及行业垂直化应用的拓展等...
185 3
AI入门必读:Java实现常见AI算法及实际应用,有两下子!
|
3月前
|
存储 算法 NoSQL
(七)漫谈分布式之一致性算法下篇:一文从根上儿理解大名鼎鼎的Raft共识算法!
Raft通过一致性检查,能在一定程度上保证集群的一致性,但无法保证所有情况下的一致性,毕竟分布式系统各种故障层出不穷,如何在有可能发生各类故障的分布式系统保证集群一致性,这才是Raft等一致性算法要真正解决的问题。
114 11
|
3月前
|
存储 算法 索引
(六)漫谈分布式之一致性算法上篇:用二十六张图一探Raft共识算法奥妙之处!
现如今,大多数分布式存储系统都投向了Raft算法的怀抱,而本文就来聊聊大名鼎鼎的Raft算法/协议!
120 8
|
3月前
|
存储 算法 Java
(五)漫谈分布式之一致性算法篇:谁说Paxos晦涩难懂?你瞧这不一学就会!
没在时代发展的洪流中泯然于众的道理很简单,是因为它们并不仅是空中楼阁般的高大上理论,而是有着完整落地的思想,它们已然成为构建分布式系统不可或缺的底层基石,而本文则来好好聊聊分布式与一致性思想的落地者:Paxos与Raft协议(算法)。
下一篇
无影云桌面