Spring Cloud:自定义 Ribbon 负载均衡策略

本文涉及的产品
应用型负载均衡 ALB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
简介: Spring Cloud:自定义 Ribbon 负载均衡策略

在前两篇文章中,我对 Ribbon 的使用做了详细的介绍:

Spring Cloud:使用Ribbon实现负载均衡详解(上)

Spring Cloud:使用Ribbon实现负载均衡详解(下)


但是使用的是 Ribbon 自带的负载均衡策略,那么 Ribbon 是否可以根据实际情况,自定义负载均衡策略呢?答案是肯定的,这一篇文章主要来介绍一下 Ribbon 如何自定义负载均衡策略。


1. 主启动类处理


还是使用上一节的客户端代码,先回忆一下相关内容:三个订单服务提供者,服务名称叫:MICROSERVICE-ORDER,端口分别为 8001、8002 和 8003。Eureka 集群三个服务,端口分别为 7001、7002 和 7003。


上一节主要是使用 Ribbon 的轮询和随机策略,来测试负载均衡。这一节我们自定义一个策略。首先要在启动类中添加 @RibbonClient 注解,如下:


@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name = "MICROSERVICE-ORDER", configuration = MyRuleConfig.class)
public class OrderConsumer {
   public static void main(String[] args) {
       SpringApplication.run(OrderConsumer.class, args);
   }
}

name 用来指定需要均衡的服务,即三个订单服务,configuration 用来指定所用的策略配置,这里使用我们自定义的一个配置 MyRuleConfig。接下来,我们来定义这个配置。


2. 自定义配置


这个配置的位置有个地方需要注意:就是所在的包不能和主启动类在同一个包下面,这是官方文档提到的注意事项。所以我们自己新建一个和主启动类所在的包同级的包,然后写 MyRuleConfig。


/**
* 自定义规则
* @author shengwu ni
*/
@Configuration
public class MyRuleConfig {
   @Bean
   public IRule myselfRule() {
       // 指定策略:我们自定义的策略
       return new CustomRule();
   }
}


3. 自定义策略


OK,接下来就是实现这个自定义策略:CustomRule了。我们假设自己定义的策略如下:


还是按照轮询的方式来选择服务,但是每个被轮询到的服务,接下来访问4次(默认是1次),4次访问完之后,再切换到下一个服务,访问4次,以此类推。


拿到这个需求之后,我们需要改写策略了,根据官方 github 源码可以知道,类似于轮询、随机这种策略,都是继承了 AbstractLoadBalancerRule 类,然后重写 choose 方法。所以,自定义策略分两步走:


  • 实现 AbstractLoadBalancerRule 类
  • 重写 choose 方法



我先把代码复制一下,然后来分析一下:


/**
* 自定义规则
* @author shengwu ni
*/
public class CustomRule extends AbstractLoadBalancerRule {
   /**
    * 总共被调用的次数,目前要求每台被调用4次
     */
   private int total = 0;
   /**
    * 当前提供服务列表的索引
    */
   private int currentIndex = 0;
   @Override public void initWithNiwsConfig(IClientConfig iClientConfig) {
   }
   /**
    * 在choose方法中,自定义我们自己的规则,返回的Server就是具体选择出来的服务
    * 自己的规则:按照轮询的规则,但是每个被轮询到的服务调用5次。
    * @param o
    * @return
    */
   @Override public Server choose(Object o) {
       // 获取负载均衡器lb
       ILoadBalancer lb = getLoadBalancer();
       if (lb == null) {
           return null;
       }
       Server server = null;
       while (server == null) {
           if (Thread.interrupted()) {
               return null;
           }
           // 获取可用服务列表
           List<Server> upList = lb.getReachableServers();
           // 获取所有服务列表
           List<Server> allList = lb.getAllServers();
           int serverCount = allList.size();
           if (serverCount == 0) {
               return null;
           }
           // 若调用次数小于4次,一直调用可用服务列表中索引为 currentIndex 的服务
           if(total < 4)
           {
               server = upList.get(currentIndex);
               total++;
           } else {
               // 到了4次之后,服务列表中的索引值++,表示下一个调用下一个服务
               total = 0;
               currentIndex++;
               // 当索引大于可用服务列表的size时,要重新从头开始
               currentIndex = currentIndex % upList.size();
               if (server == null) {
                   Thread.yield();
                   continue;
               }
               if (server.isAlive()) {
                   return (server);
               }
               server = null;
               Thread.yield();
           }
       }
       return server;
   }
}

我来简单分析一下代码:首先获取 ILoadBalancer 对象,该对象可以获取当前的服务。我们需要获取当前可用的服务列表和当前所有的服务列表。


total 表示服务被调用的次数,到4次,该服务调用停止,切换到下一个可用服务;currentIndex 表示当前可用服务列表中的索引。若调用次数小于4次,一直调用可用服务列表中索引为 currentIndex 的服务,到了4次之后,服务列表中的索引值++,表示下一个调用下一个服务。具体可以看代码中的注释。


4. 测试一下


OK,到这里,自定义的负载均衡策略就完成了,我们启动三个 eureka 集群和三个订单服务提供者,然后启动消费方客户端(端口9001),然后仍然在浏览器输入:

http://localhost:9001/consumer/order/get/1 来测试一下即可。


正常情况:当前订单提供服务会被调用四次,然后切换到另一个订单服务,轮流切换。


相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
9天前
|
XML Java 数据格式
使用idea中的Live Templates自定义自动生成Spring所需的XML配置文件格式
本文介绍了在使用Spring框架时,如何通过创建`applicationContext.xml`配置文件来管理对象。首先,在resources目录下新建XML配置文件,并通过IDEA自动生成部分配置。为完善配置,特别是添加AOP支持,可以通过IDEA的Live Templates功能自定义XML模板。具体步骤包括:连续按两次Shift搜索Live Templates,配置模板内容,输入特定前缀(如spring)并按Tab键即可快速生成完整的Spring配置文件。这样可以大大提高开发效率,减少重复工作。
使用idea中的Live Templates自定义自动生成Spring所需的XML配置文件格式
|
9天前
|
设计模式 XML Java
【23种设计模式·全精解析 | 自定义Spring框架篇】Spring核心源码分析+自定义Spring的IOC功能,依赖注入功能
本文详细介绍了Spring框架的核心功能,并通过手写自定义Spring框架的方式,深入理解了Spring的IOC(控制反转)和DI(依赖注入)功能,并且学会实际运用设计模式到真实开发中。
【23种设计模式·全精解析 | 自定义Spring框架篇】Spring核心源码分析+自定义Spring的IOC功能,依赖注入功能
|
16天前
|
NoSQL Java Redis
Spring Boot 自动配置机制:从原理到自定义
Spring Boot 的自动配置机制通过 `spring.factories` 文件和 `@EnableAutoConfiguration` 注解,根据类路径中的依赖和条件注解自动配置所需的 Bean,大大简化了开发过程。本文深入探讨了自动配置的原理、条件化配置、自定义自动配置以及实际应用案例,帮助开发者更好地理解和利用这一强大特性。
65 14
|
2月前
|
负载均衡 算法 Java
除了 Ribbon,Spring Cloud 中还有哪些负载均衡组件?
这些负载均衡组件各有特点,在不同的场景和需求下,可以根据项目的具体情况选择合适的负载均衡组件来实现高效、稳定的服务调用。
103 5
|
29天前
|
负载均衡 Java Nacos
常见的Ribbon/Spring LoadBalancer的负载均衡策略
自SpringCloud 2020版起,Ribbon被弃用,转而使用Spring Cloud LoadBalancer。Ribbon支持轮询、随机、加权响应时间和重试等负载均衡策略;而Spring Cloud LoadBalancer则提供轮询、随机及Nacos负载均衡策略,基于Reactor实现,更高效灵活。
73 0
|
2月前
|
安全 Java 应用服务中间件
如何将Spring Boot应用程序运行到自定义端口
如何将Spring Boot应用程序运行到自定义端口
61 0
|
4月前
|
负载均衡 Java 开发者
Ribbon框架实现客户端负载均衡的方法与技巧
Ribbon框架为微服务架构中的客户端负载均衡提供了强大的支持。通过简单的配置和集成,开发者可以轻松地在应用中实现服务的发现、选择和负载均衡。适当地使用Ribbon,配合其他Spring Cloud组件,可以有效提升微服务架构的可用性和性能。
50 0
|
1月前
|
负载均衡 前端开发 应用服务中间件
负载均衡指南:Nginx与HAProxy的配置与优化
负载均衡指南:Nginx与HAProxy的配置与优化
60 3
|
7月前
|
缓存 负载均衡 算法
解读 Nginx:构建高效反向代理和负载均衡的秘密
解读 Nginx:构建高效反向代理和负载均衡的秘密
138 2
|
6月前
|
负载均衡 算法 应用服务中间件
nginx自定义负载均衡及根据cpu运行自定义负载均衡
nginx自定义负载均衡及根据cpu运行自定义负载均衡
113 1