SpringCloud&Ribbon负载均衡原理与实践

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介: SpringCloud&Ribbon负载均衡原理与实践

实际的开发中 我们在使用 OpenFeign做远程调用的时候,其底层内置了Ribbon.

4.1.负载均衡原理


SpringCloud 底层其实是利用了一个名为 Ribbon 的组件,来实现负载均衡功能的。

当我们的 user-server 服务启动多个实例时, 那么在调用该实例的时候,具体调用的是哪个实例呢?


4.2.源码跟踪

为什么我们只输入了service 名称就可以访问了呢?之前还要获取ip和端口。


显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor,这个类会在对RestTemplate的请求进行拦截,然后从 注册中心 根据服务id获取服务列表,随后利用负载均衡算法得到真实的服务地址信息,替换服务id。


我们进行源码跟踪:

1)LoadBalancerIntercepor

可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:


  • request.getURI():获取请求uri,本例中就是 http://user-service/user/8
  • originalUri.getHost():获取uri路径的主机名,其实就是服务id,user-service
  • this.loadBalancer.execute():处理服务id,和用户请求


这里的this.loadBalancerLoadBalancerClient类型,我们继续跟入。


2)LoadBalancerClient

继续跟入execute方法:


代码是这样的:


  • getLoadBalancer(serviceId):根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去注册中心中获取服务列表并保存起来。
  • getServer(loadBalancer):利用内置的负载均衡算法,从服务列表中选择一个。本例中,可以看到获取了8082端口的服务


放行后,再次访问并跟踪,发现获取的是8081:


果然实现了负载均衡。


3)负载均衡策略IRule

在刚才的代码中,可以看到获取服务使通过一个getServer方法来做负载均衡:

我们继续跟入:

继续跟踪源码 chooseServer 方法,发现这么一段代码:


我们看看这个rule是谁:

这里的rule默认值是一个RoundRobinRule,看类的介绍:



这不就是轮询的意思嘛。


到这里,整个负载均衡的流程我们就清楚了。


4)总结


SpringCloudRibbon 的底层采用了一个拦截器,拦截了 RestTemplate 发出的请求,对地址做了修改。用一幅图来总结一下:


基本流程如下:


  • 拦截我们的 RestTemplate 请求 http://userservice/user/1
  • RibbonLoadBalancerClient 会从请求 url 中获取服务名称,也就是 user-server
  • DynamicServerListLoadBalancer 根据 user-server 到 注册中心拉取服务列表
  • 注册中心返回列表,localhost:8081、localhost:8082
  • IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
  • RibbonLoadBalancerClient修改请求地址,用localhost:8081替代 user-server,得到http://localhost:8081/user/1,发起真实请求


4.3.负载均衡策略

4.3.1.负载均衡策略

负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:


不同规则的含义如下

image.png


默认的实现就是 ZoneAvoidanceRule,是一种轮询方案


4.3.2.自定义负载均衡策略

通过定义IRule实现可以修改负载均衡规则,有两种方式:


  1. 代码方式:在 order-server 中的 OrderApplication 类中,定义一个新的 IRule:
@Bean
public IRule randomRule(){
    return new RandomRule();
}


  1. 配置文件方式:在 order-server 的 application.yml 文件中,添加新的配置也可以修改规则:
 order-server : # 给某个微服务配置负载均衡规则,这里是 order-server 服务
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则 


注意,一般用默认的负载均衡规则,不做修改。


4.4.饥饿加载


Ribbon 默认是采用懒加载,即第一次访问时才会去创建 LoadBalanceClient,请求时间会很长。


而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:

ribbon:
  eager-load:
    enabled: true
    clients: order-server # 指定被调用微服务饥渴加载
相关实践学习
部署高可用架构
本场景主要介绍如何使用云服务器ECS、负载均衡SLB、云数据库RDS和数据传输服务产品来部署多可用区高可用架构。
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
10天前
|
缓存 负载均衡 Java
Java一分钟之-Spring Cloud Netflix Ribbon:客户端负载均衡
【6月更文挑战第9天】Spring Cloud Netflix Ribbon是客户端负载均衡器,用于服务间的智能路由。本文介绍了Ribbon的基本概念、快速入门步骤,包括添加依赖、配置服务调用和使用RestTemplate。此外,还讨论了常见问题,如服务实例选择不均、超时和重试设置不当、服务列表更新不及时,并提供了相应的解决策略。最后,展示了如何自定义负载均衡策略。理解并正确使用Ribbon能提升微服务架构的稳定性和效率。
75 3
|
23天前
|
负载均衡
【SpringCloud】Ribbon负载均衡原理、负载均衡策略、饥饿加载
【SpringCloud】Ribbon负载均衡原理、负载均衡策略、饥饿加载
22 0
|
23天前
|
网络协议 Linux C语言
Intel HDSLB 高性能四层负载均衡器 — 基本原理和部署配置
本篇主要介绍了 Intel HDSLB 的基本运行原理和部署配置的方式,希望能够帮助读者们顺利的把 HDSLB-DPVS 项目 “玩” 起来。
119 9
Intel HDSLB 高性能四层负载均衡器 — 基本原理和部署配置
|
1月前
|
负载均衡 算法
Dubbo-负载均衡原理解析(1),一个本科渣渣是怎么逆袭从咸鱼到Offer收割机的
Dubbo-负载均衡原理解析(1),一个本科渣渣是怎么逆袭从咸鱼到Offer收割机的
|
1月前
|
负载均衡 算法 调度
负载均衡原理及算法
负载均衡原理及算法
20 1
|
1月前
|
负载均衡 算法 Java
Ribbon自定义负载均衡算法
Ribbon自定义负载均衡算法
23 1
|
13天前
|
存储 SpringCloudAlibaba 关系型数据库
springcloud alibaba(5)
springcloud alibaba
91 0
|
13天前
|
SpringCloudAlibaba Nacos
springcloud alibaba(4)
springcloud alibaba
121 0
|
13天前
|
SpringCloudAlibaba 容灾 测试技术
springcloud alibaba(3)
springcloud alibaba
56 0
|
13天前
|
SpringCloudAlibaba 负载均衡 前端开发
springcloud alibaba(2)
springcloud alibaba
70 0