负载均衡算法

本文涉及的产品
RDS DuckDB + QuickBI 企业套餐,8核32GB + QuickBI 专业版
简介: 随机调用适用于性能均衡的服务器,可升级为加权随机以适配性能差异。轮询按序调用,支持加权提升调度精度,如权重[3,1]对应调用序列AAABA。最小活跃数优先选择负载低的节点,动态均衡负载。源地址哈希通过IP取模确保同一IP访问固定节点。一致性哈希将节点与请求映射至Hash环,实现节点变动时最小化数据迁移,保障服务稳定。

随机调用关系如上图(简化了公网->防火墙处理),适合场景:所有服务器性能基本一致,且无超阈值流量。如果存在部分机器性能更优,此时可以在随机基础上增加权重,升级为:随机权重算法。轮询轮询不再是在多台服务器随机挑选,而是按照顺序一个个排队调用,调用完再插入队尾等待下一次调用同加权随机,轮询也同样存在加权轮询的场景,此时流量调度将发生如下变化:此处逻辑相对复杂,笔者在此说出主要思路,后续有时间补充伪代码,感兴趣的可以参照Dubbo的实现如上有服务器servers=[A,B],对应权重weights=[3,1],总权重为4。我们可以理解为有4台服务器,3台A,1台B,一次调用过来的时候,需要按顺序访问。如有5次调用,调用顺序为AAABA。选举思路如下:
次数 WeightedRoundRobin 选择结果 选择后的WeightedRoundRobin
1 3、1 A 2、1
2 2、1 A 1、1
3 1、1 A 0、1
4 0、1 B 0、0(等于0-0时复原成:3、1)
5 3、1 A 2、1
最小活跃数指:将当前请求转发到连接数/请求数最少的机器上,其特点是根据服务器实时运行状态动态分配,保障服务负载不会过饱和。如下图当请求4过来时,Nginx判断目前服务器1连接数>服务器2,故4会请求到服务器2上:源地址哈希根据请求源IP哈希计算得到一个数值,用该数值在候选服务器列表的进行取模运算,得到的结果便是选中的服务器,此操作可以保证固定IP的请求总是到某一台服务器上,伪代码如下:
源地址哈希伪代码
Java运行代码复制代码
private K doSelect(List nodes, String ip) {
int length = nodes.size();
int index = hash(ip) % length;
return nodes.get(index);
}
一致性哈希相同的请求尽可能落到同一个服务器上。一致性哈希解决稳定性问题,可以将所有的存储节点排列在首尾相接的 Hash 环上,每个 key 在计算 Hash 后会 顺时针找到临接的存储节点存放。而当有节点加入或退出时,仅影响该节点在 Hash环上顺时针相邻的后续节点。

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
相关文章
|
4月前
|
机器学习/深度学习 存储 自然语言处理
大模型基础概念术语解释
大语言模型(LLM)基于Transformer架构,通过海量文本训练,具备强大语言理解与生成能力。其核心组件包括注意力机制、位置编码与嵌入层,支持文本分割为Token进行处理。参数量达十亿乃至万亿级,展现涌现与泛化能力,能完成多任务推理。混合专家模型(MoE)提升效率与扩展性,推动大模型持续发展。(237字)
|
3月前
|
人工智能 算法 网络协议
2026大预测:人人都是“AI Agent指挥官”的时代真的来了
2026年,AI迈入“智能体时代”:AI Agent具备感知、决策、执行与反思能力,成为人类的“数字化分身”。普通人化身“AI指挥官”,依托动作预测、MCP/A2A协议、长程记忆三大基石,跨平台调度Agent军团完成复杂任务。人机关系升维为“战略指挥”,核心价值转向拆解力、审美判断与伦理风控。(239字)
479 4
|
1月前
|
人工智能 IDE 程序员
Agent Apps:Agent 时代,大家都在造工具箱,但真正缺的是“工作台”
Agent时代,工具层出不穷,但真正缺失的是Agent的“工作台”——Agent App。它不是工具集合、技能包或大一统Agent,而是为AI构建可操作、有状态、带上下文与视图的原生工作环境,让Agent真正“上岗干活”。
320 8
Agent Apps:Agent 时代,大家都在造工具箱,但真正缺的是“工作台”
|
23天前
|
人工智能 小程序 API
只需3步:阿里云无影云电脑一键安装OpenClaw龙虾AI助手、百炼API Key,并在飞书、钉钉、QQ及微信部署教程
阿里云OpenClaw部署官方页面:https://t.aliyun.com/U/McEnoK 阿里云无影云电脑上线OpenClaw龙虾AI助手专属镜像,预装VS Code、钉钉、WPS等,支持飞书/钉钉/微信/QQ多端唤醒。3步完成部署:购买套餐→启动云电脑→配置API Key,即可运行能操作文件、联动工具的个人Agent。
748 4
|
4月前
|
安全 Java API
Java日期处理完全指南(新手也能轻松掌握的Java时间格式化与日期API教程)
教程来源https://www.vpshk.cn/本文介绍Java 8引入的java.time包,详解LocalDateTime、LocalDate等类的使用,涵盖获取当前时间、格式化、解析字符串及日期运算,助你轻松掌握现代Java日期处理方法,适合初学者快速上手。
|
30天前
|
人工智能 弹性计算 自然语言处理
阿里云2026年AI焕新季,马上用千问活动:先用后返至高500元、万亿Tokens扶持、AI焕新礼包规则介绍
阿里云2026年AI焕新季推出千问焕新计划,提供至高500元先用后返优惠,企业新客可享万亿Tokens扶持并申领至高2000元优惠券。领券下单再减1728元,覆盖文本、语音、视觉等全模型。活动包括低至9.9元快速部署OpenClaw,大模型服务节省计划低至4.5折。
1167 2
|
3月前
|
弹性计算 关系型数据库 应用服务中间件
2026阿里云服务器新购及续费优惠参考:不同实例规格云服务器新购与续费相关政策介绍
2026年阿里云服务器新购和续费均不同程度的优惠,包括99元/年和199元/年的经济型及通用算力型实例,适合个人和企业用户。还有38元一年轻量应用服务器,新用户可抢购。此外,4核16G、8核32G及通用算力型u2a实例等也有优惠。续费方面,99元和199元实例可在活动期内每年以新购同价续费1次。其他实例续费也有折扣,具体以官方政策为准。
|
3月前
|
消息中间件 运维 监控
别只盯着充电枪:聊聊一个真正“能赚钱、能扩展、能运维”的智慧充电桩系统架构
别只盯着充电枪:聊聊一个真正“能赚钱、能扩展、能运维”的智慧充电桩系统架构
204 7
|
4月前
|
人工智能 前端开发 JavaScript
2025年主流Web自动化测试工具功能与性能深度对比
2025年主流Web自动化测试工具在功能、性能等方面差异显著。功能上,不同工具在元素定位、脚本兼容性等核心模块各有优劣;性能方面,执行效率与资源占用需平衡,分布式执行能力对高并发场景很重要。还介绍了智能化与生态扩展趋势,给出企业选型建议及不同规模团队适用方案。
|
4月前
|
自然语言处理 安全 搜索推荐
Hoobuy模式复制指南:淘宝1688代购系统搭建
Hoobuy以“价格套利+信息差变现”为核心,连接海外消费者与1688源头厂家,提供30%-50%低价优势,覆盖全品类商品。通过商品差价、服务费与物流收益盈利,目标用户为追求性价比的都市白领及中小跨境卖家。平台集成多语言、多币种、一键代购与物流追踪系统,依托PHP技术实现高效运营,结合社媒营销与物流优化,打通跨境购物全链路。(239字)