每个程序员都应该知道的 6 种负载均衡算法

简介: 每个程序员都应该知道的 6 种负载均衡算法

一个大型网络平台能轻松面对数百万请求而不产生崩溃,负载均衡器(Load Balancer)是绝对的关键组件

负载均衡器会在多个服务器之间分配工作流,也就是将用户请求转发到不同的机器上,可以确保服务的高可用性、响应速度和可扩展性。那么问题来了,负载均衡器的背后会有很多服务器,那么这些服务器之间要如何分配请求呢?显然这就涉及到了负载均衡算法,而了解核心的负载均衡算法可以让我们更好地设计和优化应用程序,以及故障排除。

负载均衡算法分为两大类:静态和动态。

0a5809ccccdef88ab5f4d5c301240a1a.png

下面我们就来介绍这每一种算法的区别,并深入讨论它的工作原理和优缺点。

Round Robin(轮询法)

静态负载均衡算法只负责将请求转发到服务器,而不会考虑服务器的实时条件和性能指标,所以它的优势是简单,缺点是适应性和精确性较差。而 Round Robin 在概念上是最简单的静态负载均衡算法,它会将请求均匀地转发给每一个服务器。

9c2e3a2e5159ea76b1cb9561864e6492.png

每来一个请求,就按照顺序转发给每一个服务器,比如请求 1 转发给 A,请求 2 转发给 B,请求 3 转发给 C。然后请求 4 再转发给 A,不断循环往复,就是将请求均匀分配到每个服务器上。当然我们这里只用三台服务器举例,更多的服务器也是同样的转发方式。

Round Robin 这种算法易于实现和理解,如果你的服务器配置都是一样的,那么 Round Robin 也是一个不错的负载均衡算法,虽然它比较简单。但现实情况是,不同服务器的处理能力可能不一致,那么此时 Round Robin 算法就会有几率导致处理能力较弱的服务器出现过载,因此你需要对服务器的资源进行监控。

Sticky Round Robin(粘性轮询法)


Sticky Round Robin 是 Round Robin 的扩展,它会将来自同一用户的连续请求发送到同一台服务器。

58809dcb2b557049221b3b0ee1cb3d7b.png

因为同一个用户的请求会转发到相同的服务器,那么就可以将相关数据提前保存起来,从而提升性能。但由于新来的用户是随机分配的,会容易出现负载不均衡的情况。

Weighted Round Robin(加权轮询法)


Weighted Round Robin 允许操作者为不同的服务器分配不同的权重或优先级,权重较高的服务器将按照比例接收更多的请求。

a63a4498afae6ba1cfb8be3ccbae44c6.png

服务器 A、B、C 的权重比值为 3: 1: 1,所以假设有 5 个请求,服务器 A 要处理 3 个,服务器 B、C 分别处理 1 个。加权轮询法允许我们考虑服务器的异构能力,但缺点是必须手动配置权重,这在动态变化的场景中不够灵活。

IP/URL Hash


除了 Round Robin 系列算法之外,我们还可以对客户端的 IP 地址或请求的 URL 进行哈希,然后来决定请求要被映射到哪一台服务器中。

4e23e1975b1bbd935a8f55b067854093.png

如果哈希函数选择得当,那么请求可以被均匀分发,然而选择一个好的哈希函数是具有挑战性的。

Least Connections(最少连接算法)


说完了静态负载均衡算法,我们再来看看动态负载均衡算法。相比静态,动态均衡算法在分发请求时会考虑到服务器的性能指标以及当前所剩资源,从而动态调整。

Least Connections 算法会将每个新的请求转发到当前活跃连接数最少的服务器,显然这就需要负载均衡器实时跟踪每个后端服务器上的活跃连接数。

如果再来一个新请求,它会被转发给服务器 A。因此最小连接算法可以灵活地对请求进行分配,以确保每台机器都能最大程度的处理请求,不会出现资源闲置。但如果连接不均匀地堆积,负载可能不经意地集中在某些服务器上。

Least Time(最少响应时间算法)


Least Time 和 Least Connections 类似,只不过它是将请求转发到延迟最低或者响应速度最快的服务器,负载均衡器需要持续评估每个服务器的延迟,并最终决定将请求转发到哪一个服务器上。


e2e89d6ead9f37172f81d474ab550c3f.png


这种方法具有高度自适应性和反应迅速的特点,但它需要持续地监测后端服务器的延迟,这会带来显著的开销并增加复杂性。并且它也没有考虑每个服务器已经有多少个正在处理的请求,它只是将请求转发给延迟最低的服务器。

以上就是常见的 6 种负载均衡算法,总的来说,简单的静态算法和更自适应的动态算法之间存在明显的权衡,我们需要考虑特定的性能目标、能力和约束来选择负载均衡策略。

像轮询这样的静态算法很适合无状态的应用程序,而动态算法则有助于优化大型复杂应用的响应时间和可用性,至于具体选择哪种算法则取决于当前的业务。

本文参考自:https://www.youtube.com/watch?v=dBmxNsS3BGE

相关文章
|
21天前
|
弹性计算 人工智能 架构师
阿里云携手Altair共拓云上工业仿真新机遇
2024年9月12日,「2024 Altair 技术大会杭州站」成功召开,阿里云弹性计算产品运营与生态负责人何川,与Altair中国技术总监赵阳在会上联合发布了最新的“云上CAE一体机”。
阿里云携手Altair共拓云上工业仿真新机遇
|
17天前
|
机器学习/深度学习 算法 大数据
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
2024“华为杯”数学建模竞赛,对ABCDEF每个题进行详细的分析,涵盖风电场功率优化、WLAN网络吞吐量、磁性元件损耗建模、地理环境问题、高速公路应急车道启用和X射线脉冲星建模等多领域问题,解析了问题类型、专业和技能的需要。
2563 22
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
|
15天前
|
人工智能 IDE 程序员
期盼已久!通义灵码 AI 程序员开启邀测,全流程开发仅用几分钟
在云栖大会上,阿里云云原生应用平台负责人丁宇宣布,「通义灵码」完成全面升级,并正式发布 AI 程序员。
|
13天前
|
存储 关系型数据库 分布式数据库
GraphRAG:基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
本文介绍了如何使用PolarDB、通义千问和LangChain搭建GraphRAG系统,结合知识图谱和向量检索提升问答质量。通过实例展示了单独使用向量检索和图检索的局限性,并通过图+向量联合搜索增强了问答准确性。PolarDB支持AGE图引擎和pgvector插件,实现图数据和向量数据的统一存储与检索,提升了RAG系统的性能和效果。
|
17天前
|
机器学习/深度学习 算法 数据可视化
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
2024年中国研究生数学建模竞赛C题聚焦磁性元件磁芯损耗建模。题目背景介绍了电能变换技术的发展与应用,强调磁性元件在功率变换器中的重要性。磁芯损耗受多种因素影响,现有模型难以精确预测。题目要求通过数据分析建立高精度磁芯损耗模型。具体任务包括励磁波形分类、修正斯坦麦茨方程、分析影响因素、构建预测模型及优化设计条件。涉及数据预处理、特征提取、机器学习及优化算法等技术。适合电气、材料、计算机等多个专业学生参与。
1556 16
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
|
19天前
|
编解码 JSON 自然语言处理
通义千问重磅开源Qwen2.5,性能超越Llama
击败Meta,阿里Qwen2.5再登全球开源大模型王座
826 14
|
14天前
|
人工智能 开发框架 Java
重磅发布!AI 驱动的 Java 开发框架:Spring AI Alibaba
随着生成式 AI 的快速发展,基于 AI 开发框架构建 AI 应用的诉求迅速增长,涌现出了包括 LangChain、LlamaIndex 等开发框架,但大部分框架只提供了 Python 语言的实现。但这些开发框架对于国内习惯了 Spring 开发范式的 Java 开发者而言,并非十分友好和丝滑。因此,我们基于 Spring AI 发布并快速演进 Spring AI Alibaba,通过提供一种方便的 API 抽象,帮助 Java 开发者简化 AI 应用的开发。同时,提供了完整的开源配套,包括可观测、网关、消息队列、配置中心等。
621 7
|
7天前
|
Docker 容器
Docker操作 (五)
Docker操作 (五)
170 69
|
7天前
|
Docker 容器
Docker操作 (三)
Docker操作 (三)
167 69
|
19天前
|
人工智能 自动驾驶 机器人
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界
过去22个月,AI发展速度超过任何历史时期,但我们依然还处于AGI变革的早期。生成式AI最大的想象力,绝不是在手机屏幕上做一两个新的超级app,而是接管数字世界,改变物理世界。
628 52
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界