Ribbon负载均衡

简介: 负载均衡是高并发系统中的关键技术,通过将流量分发至多台服务器,提升系统性能与可用性。本文详解其原理、分类(硬件/软件)、算法及Ribbon的客户端实现机制,涵盖自定义策略与饥饿加载优化,并引导思考Nacos、ZooKeeper等不同场景下的负载均衡实现方式。(238字)

1.负载均衡
1.1 什么是负载均衡
传统架构下的网站,随着流量的增加,高并发、海量数据的挑战逐步而来。为了提升系统的性能,架构师们往往开始从垂直扩展、水平扩展两个角度来解决问题:
垂直扩展
网站发展的早期可以通过增加服务器的硬件处理能力:CPU、内存、磁盘等方面提升服务器处理的能力,然而单机的瓶颈总是存在的,一旦触及瓶颈想再提升,付出的成本会极高,显然这不符合分布式系统的设计理念。
水平扩展
通过集群部署的方式,将一台服务器的请求压力,分摊到多台机器上,集群中的应用服务器通常被设计成无状态。但是如何将流量均匀分摊到各机器上,或优先分配到高性能机器上又成了一个问题,由此引申出“负载均衡”的概念。
负载均衡(Load Balance)是如今高并发、高可用系统中不可或缺的关键组件,目标是:尽力将用户流量按照架构设计分发(并非一定均匀)到集群中多台服务器上,从而提高系统整体的响应速度和可用性。
1.2 负载均衡分类
硬件负载均衡(包括但不限于)
F5
A10
软件负载均衡(包括但不限于)
Nginx
HAProxy
LVS
1.3 负载均衡算法
为不影响章节重点,需做进一步了解的可移步:负载均衡算法
2.Ribbon如何实现负载均衡
Ribbon与大多数负载均衡实现机制一样在客户端实现(不同于后续我们讲解的Nacos,Nacos在服务端实现),其主要流程为:
在RestTemplate标注@LoadBalanced注解,此时通过RestTemplate发起的RESTful请求都会被负载均衡
当请求发起时,会被LoadBalancedInterceptor拦截,其主要实现两个功能:
从多个可用Server中选择一个Server,选择算法即上述1.3中之一
重构请求URI:服务名-->具体ip、端口
LoadBalancerClient内部持有LoadBalancer并调用getServer方法得到一个Server,而这个Server是通过Eureka服务注册,ILoadBalancer持有的upServerList、allServerList中获取(底层依赖ServerListUpdater动态更新所有serverList)
完整源码交互流程总结如下,感兴趣的可做进一步研究:
3.Ribbon自定义负载均衡策略
1.代码声明式注册
在启动类追加以下代码即可,此优先级更高,但修改必须重启应用,且全局生效
通过查看IRule实现类,可以做其余负载均衡实现方案的更多测试
2.配置文件声明式配置
此配置优点在于不用重启应用,打包发布,但缺点是无法做到全局配置,必须声明规则对应的服务
4.Ribbon饥饿加载
在上述的测试中不知是否有读者发现:当请求第一次到某个实例时,其响应速度明细要慢一点,这里就是因为Ribbon默认采用饥饿加载,只有访问时才会创建LoadBalanceClient,从而导致第一次时间要长点,日志如下:
修改饥饿加载前启动日志
修改饥饿加载前访问日志
修改饥饿加载机制,通过在配置文件中追加以下配置即可
修改饥饿加载后启动日志
修改饥饿加载后访问日志
至此我们的工程如下,有需自行下载导入:
cloud.zip
(52 KB)
5.总结
上一节就已经实现的负载均衡笔者并未深入探讨,本节通过分析负载均衡算法、Ribbon实现负载均衡的底层原理和实现过程,让大家对负载均衡有了一个大体认识,同时针对Ribbon自定义负载均衡策略,饥饿加载让大家对于Ribbon的了解又多一些。Ribbon实现的负载均衡只是方案之一,我们可以尽量多了解但不要局限于此。
负载均衡作为现如今架构必须考量的一个点,要了解和深入学习的地方还很多,如下一节我们要学习的Nacos是怎么实现的?它为什么反其道而行要在服务端实现?ZK也可作为注册中心它是怎么实现的?网关GateWay也可做负载均衡它又是怎么实现的呢?篇幅问题,更多的答案留给读者朋友们在未来的工作生涯中慢慢思考。
思考问题
Ribbon是什么?解决了什么问题?
Ribbon实现的是客户端,还是服务端负载均衡?
Ribbon如何实现负载均衡?
还有哪些技术点可以实现负载均衡?
负载均衡算法?如何实现?还有哪些技术有体现?

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
相关文章
|
JavaScript Windows
Win7内网安装高版本的Node方法,亲测有效node-v16.16.0
Win7内网安装高版本的Node方法,亲测有效node-v16.16.0
3772 1
|
26天前
|
人工智能 自然语言处理 安全
企业自动化新模式:AI智能体+RPA
随着AI技术的发展,很多企业都感受到了提效的迫切性,从最开始的观望和了解状态,到今年纷纷把RPA和智能体的相关项目都列入了KPI。从表面看,这两类工具都可以帮我们干活,提升工作效率,都可以被称为“数字员工”,但在实际使用中,差异其实很大。如果对这两个概念理解不到位,很容易盲目跟风,选错方向,导致项目效果不理想。 一、RPA是什么?优劣势有哪些?RPA本质上是流程自动化工具,它可以模拟人工 ITPUB博客每天千篇余篇博文新资讯,40多万活跃博主,为IT技术人提供全面的IT资讯和交流互动的IT博客平台-中国专业的IT技术ITPUB博客。
|
1月前
|
缓存 监控 Java
Java 四大引用体系:从GC回收规则到框架底层实现的完整真相
Java四大引用(强、软、弱、虚)是JDK1.2引入的核心内存管理机制,精准控制对象回收时机。强引用防回收,软引用保缓存(OOM前清理),弱引用防泄漏(GC即回收),虚引用唯一可靠跟踪回收——配合ReferenceQueue实现堆外内存释放等关键兜底。90%开发者仅知皮毛,实为解决OOM、内存泄漏及理解ThreadLocal/NIO底层的基石。(239字)
281 4
|
1月前
|
弹性计算 人工智能 安全
想魔改 OpenClaw 给团队用?计算巢「克隆服务」帮你搞定
本文教你如何用阿里云计算巢的“克隆服务”功能,快速将二次开发的OpenClaw定制版打包为云上服务:克隆模板→制作自定义镜像→关联部署物→配置参数→测试发布,实现团队成员一键部署,省去手动配置烦恼。(239字)
195 0
|
5月前
|
存储 缓存 安全
阿里云服务器通用算力型u2i实例详解:企业级性能保障,高性能算力
u2i实例是阿里云通用算力型(U实例)中的一种规格族,采用全新CIPU架构,兼容多代际服务器,并支持Intel最新的第五代和第六代至强平台。作为企业级入门独享实例,提供企业级的性能保证,满足客户对成本敏感的业务需求,主要场景包括 web、java、中小型数据库、离线业务、通用企业应用场景。以下是关于u2i实例的核心信息:
427 156
|
2月前
|
人工智能 Prometheus Cloud Native
AI 智能体的本地化部署测试
本地AI智能体测试已升级为多维压力评估体系,涵盖任务成功率、推理逻辑与工具调用准确率、本地系统性能(TPOT/吞吐量/显存稳定性)及数据安全合规性,并依托Dify、DeepEval、Prometheus等工具实现自动化SOP测试。
|
4月前
|
JSON Java fastjson
Spring Boot返回Json数据及数据封装
Spring Boot默认使用Jackson处理JSON,通过@RestController可直接返回JSON数据。本文详解Jackson与FastJson的配置与对比,并封装统一的JSON返回结构,提升前后端交互规范性与开发效率。
|
8月前
|
存储 弹性计算 网络协议
阿里云服务器ECS实例规格族是什么?不同规格CPU型号、处理器主频及网络性能参数均不同
阿里云ECS实例规格族是指具有不同性能特点和适用场景的实例类型集合。不同规格族如计算型c9i、通用算力型u1、经济型e等,在CPU型号、主频、网络性能、云盘IOPS等方面存在差异。即使CPU和内存配置相同,性能参数和价格也各不相同,适用于不同业务需求。
563 144
|
4月前
|
人工智能 中间件 开发者
线下活动速递丨AI 原生应用开源开发者沙龙·杭州站
了解 AI 原生应用开发的前沿趋势和核心产品技术,全面 get 典型应用场景及硬核实战经验。

热门文章

最新文章

下一篇
开通oss服务