8分钟5个点让你彻底了解负载均衡

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介: 8分钟5个点让你彻底了解负载均衡

负载均衡

负载均衡是高可用架构的一个关键组件,主要用来提高性能和可用性,通过负载均衡将流量分发到多个服务器,同时多服务器能够消除这部分的单点故障。
当然负载均衡器本身就是一个单点故障隐患,可以考虑文章后面说的负载均衡双机热备或其他方案消除单点故障提高可用性。
一个没有使用负载均衡的Web架构一般会长得像这样:
image

没有负载均衡的架构
在这个例子里面,用户直接通过yourdomain.com连接Web Server,如果这一个Web Server挂了那么整个系统都无法使用,也就是我们常说的系统中的单点故障,同样如果大量的用户同时访问这一台服务器,那么这些用户很可能会遇到加载时间缓慢或者根本无法连接的问题。
这部分的单点故障可以通过引入负载均衡器和至少另一个Web Server来缓解。一般来说所有后端服务器会提供相同的内容,以便用户无论访问哪个服务器都会收到一致的内容。同时由于有多台服务器同时提供服务,也加大了系统的负载能力提高了性能。
负载均衡可以处理哪些类型的流量
由于一般程序员接触到的负载均衡可能大多都是处理HTTP、HTTPS流量的,但实际上负载均衡还可以处理TCP和UDP流量(比如对数据库集群的访问、DNS等)。
image

负载均衡算法

负载均衡算法用于确定流量应该被分发到哪一个健康的服务器上,常见的几个算法如下:
Round Robin — 轮转(Round Robin)意味着服务器会被按顺序地选择,比如负载均衡器会将第一个请求分配给第一个服务器,然后下一个请求分配给第二个服务器,这样分配下去分配完一轮之后回到开头分配给第一个服务器(操作系统调度算法复习一下)。这种方式比较适合各服务器处理能力相同而且每个业务处理量差不多的时候。
Least Connections — 最少连接(Least Connections)这个算法意味着负载均衡器会选择当前连接最少的服务器。
IP hash — 在这个算法下,负载均衡器根据请求源的IP来决定分发给哪个服务器。这个方法保证了一个特定的用户会一直访问相同的服务器。
其他还有一些不算太常见的算法,比如Url hash、Random等。

健康检测(health checks)

在负载均衡算法一节中我们有一个前提,就是流量只会被分配到健康的服务器上,那么负载均衡器怎么去判断服务器现在是否健康呢?
为了监控健康的服务器,健康检查一般会通过配置的协议和端口尝试去连接服务器来保证服务器正在监听。如果一个服务器的健康检查失败了,也就是说服务器无法正常响应请求,那么就会被自动的移除池子中,流量也不会被分配到这个坏掉的服务器直到它能通过健康检查。
这块具体的方式可以参考阿里云关于负载均衡的文档健康检查原理
image

负载均衡如何处理状态

我们都知道基于session的用户认证会在服务器存有session的一些信息,但当系统引入负载均衡的时候这样会出现一些问题。
举个电商网站的例子,当用户U发送的登录请求被分发到了服务器S1并在服务器中记录了session信息,而当用户想要提交购物请求的时候这个请求被分发到了服务器S2,但服务器S2并没有保存用户U的session信息。
为了解决这个问题一个是可以使用之前说的IP hash算法,这个算法根据IP来分配流量对应的服务器,所以可以保证同一个用户的流量会访问到同一个服务器。另一个应用层的方法是sticky session,中文应该叫粘性会话,负载均衡器会设置一个cookie然后带有这个cookie的session都会被分配到同一个服务器上。

负载均衡双机热备(Hot standby)

正如开头所说,负载均衡器本身就是一个单点故障隐患,其中一个解决方案就是双机热备(提高可用性的一大基本方法就是冗余)。
双机热备方案为了解决负载均衡器的单点故障问题,引入了第二个负载均衡器,当主节点GG了之后切换到备用节点。在网上找了个比较形象的gif:
image

我自己之前毕业设计的架构用了双机热备,实现上主要是通过keepalived实现nginx的高可用关于冷备份、热备份、双机热备、

总结

这篇文章算是对于负载均衡的一个初步总结和一些理解,比较适合希望对负载均衡有个初步全面了解的朋友。

最后

欢迎大家一起交流,喜欢文章记得点个赞哟,感谢支持!

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
12天前
|
存储 负载均衡 算法
负载均衡算法
负载均衡算法
20 1
|
3月前
|
存储 负载均衡 监控
自适应负载均衡算法原理和实现
自适应负载均衡算法原理和实现
|
6月前
|
负载均衡 算法 调度
负载均衡原理及算法
负载均衡原理及算法
63 1
|
6月前
|
负载均衡 算法
负载均衡的原理
负载均衡的原理
|
人工智能 运维 负载均衡
重新思考边缘负载均衡
重新思考边缘负载均衡
61 0
|
负载均衡 Cloud Native 网络协议
负载均衡原理及应用
负载均衡原理及应用
171 0
|
缓存 负载均衡 算法
一致性Hash在负载均衡中的应用
一致性Hash是一种特殊的Hash算法,由于其均衡性、持久性的映射特点,被广泛的应用于负载均衡领域,如nginx和memcached都采用了一致性Hash来作为集群负载均衡的方案。本文将介绍一致性Hash的基本思路,并讨论其在分布式缓存集群负载均衡中的应用。同时也会进行相应的代码测试来验证其算法特性,并给出和其他负载均衡方案的一些对比。
一致性Hash在负载均衡中的应用
|
负载均衡 算法 Serverless
负载均衡算法
负载均衡算法
206 1
|
负载均衡 算法
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心(下)
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心
175 0
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心(下)
|
负载均衡 算法
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心(中)
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心
148 0
彻底揭秘负载均衡算法与实现!深入剖析负载均衡核心(中)