【云原生】springcloud09——但愿发长久,空手撕Ribbon

简介: 【云原生】springcloud09——但愿发长久,空手撕Ribbon

1.Ribbon默认轮询算法原理

先将注解@RibbonClient注释掉。让它恢复到最开始的轮询算法。

7340122859da4402b01b3e4751238939.png

轮询算法的原理如下。妙不妙?

051a75a08a3544f6a36141fb7d99f051.png

2.RoundRobinRule源码解读

我们先解读下RoundRobinRule轮询算法的源码实现,方便后面仿照轮询算法实现默认的负载均衡算法。

31ea352c38734330ad97337743e75781.png

先看接口IRule

public interface IRule {
    Server choose(Object var1);
    void setLoadBalancer(ILoadBalancer var1);
    ILoadBalancer getLoadBalancer();
}

里面有一个choose方法,看看在RoundRobinRule中的具体实现吧。

  public Server choose(Object key) {
        return this.choose(this.getLoadBalancer(), key);
    }
  public Server choose(ILoadBalancer lb, Object key) {
  // 如果没有负载均衡算法,返回null
        if (lb == null) {
            log.warn("no load balancer");
            return null;
        } else {
            Server server = null;
            int count = 0;
            while(true) {
                if (server == null && count++ < 10) {
                //获取状态为up(活着的)服务器
                    List<Server> reachableServers = lb.getReachableServers();
                    List<Server> allServers = lb.getAllServers();
                    int upCount = reachableServers.size();
                    int serverCount = allServers.size();
                    if (upCount != 0 && serverCount != 0) {
                        int nextServerIndex = this.incrementAndGetModulo(serverCount);
                        server = (Server)allServers.get(nextServerIndex);
                        if (server == null) {
                            Thread.yield();
                        } else {
                            if (server.isAlive() && server.isReadyToServe()) {
                                return server;
                            }
                            server = null;
                        }
                        continue;
                    }
                    log.warn("No up servers available from load balancer: " + lb);
                    return null;
                }
                if (count >= 10) {
                    log.warn("No available alive servers after 10 tries from load balancer: " + lb);
                }
                return server;
            }
        }
    }

看看incrementAndGetModulo方法

  private int incrementAndGetModulo(int modulo) {
        int current;
        int next;
        do {
            current = this.nextServerCyclicCounter.get();
            next = (current + 1) % modulo;
        } while(!this.nextServerCyclicCounter.compareAndSet(current, next));
        return next;
    }

3.手写轮询算法

3.1 8001和8002微服务改造

在8001和8002的PaymentController中加上这个方法,用于测试我们的自定义轮询:

@GetMapping("/lb")
public String getPaymentLB(){
    return serverPort;
}

3.2 订单微服务改造

将订单微服务的负载均衡注解去掉

5a7fcce0674f4821aa6b4d3709d1816b.png

在springcloud包下新建lb.ILoadBalancer接口(自定义负载均衡机制(面向接口))

public interface LoadBalancer {
    // 传入具体的服务集合,返回服务实例
    ServiceInstance instances(List<ServiceInstance> instances);
}

在lb包下新建自定义ILoadBalancer接口的实现类,实现负载均衡的核心逻辑。下面用到了CAS自旋锁的知识,让代码很健壮。

@Component
public class MyLB implements LoadBalancer {
    // 新建一个原子整形实例,记录访问次数,使线程安全
    private AtomicInteger visitCount = new AtomicInteger(0);
    public final int getAndIncrement() {
        int current;
        int next;
        do {
            current = visitCount.get();
            //如果current是最大值,重新计算,否则加1(防止越界),
            // 正常情况肯定不会出现越界的情况,但是我们可以学习源码这种方式,提升代码健壮性
            next = current >= Integer.MAX_VALUE ? 0 : current + 1;
            // 当visitCount与current相等时,说明cas成功将visitCount更新为next,终止循环
            // 当visitCount与current不相等时,说明有其他线程操作atomicInteger,返回true,取反为false,循环操作
        } while (!this.visitCount.compareAndSet(current, next));
        System.out.println("****访问次数:" + next);
        // 返回的next即visitCount自增成功后的值
        return next;
    }
    @Override
    public ServiceInstance instances(List<ServiceInstance> instances) {
        // 轮询算法
        int index = getAndIncrement() % instances.size();
        return instances.get(index);
    }
}

接着在我们的OrderController代码逻辑里来引入自己的自旋锁吧。

    @Resource
    private ILoadBalancer iLoadBalancer;
    @Resource
    private DiscoveryClient discoveryClient;
    @GetMapping("/payment/lb")
    public String getPaymentLB(){
        List<ServiceInstance> instances = discoveryClient.getInstances("CLOUD-PAYMENT-SERVICE");
        //判断服务有效
        if (instances ==null || instances.size() <=0){
            return null;
        }
        ServiceInstance serviceInstance = loadBalancer.instances(instances);
        URI uri = serviceInstance.getUri();
        System.out.println(uri);
        return restTemplate.getForObject(uri+"/payment/lb",String.class);
    }

3.3 测试

启动Eureka Server集群7001,7002,支付微服务集群8001,8002,订单80微服务。

4feee647ecde4e27971ebf88101c2727.png

相关实践学习
部署高可用架构
本场景主要介绍如何使用云服务器ECS、负载均衡SLB、云数据库RDS和数据传输服务产品来部署多可用区高可用架构。
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
2月前
|
缓存 Java API
【云原生】Spring Cloud Gateway的底层原理与实践方法探究
【云原生】Spring Cloud Gateway的底层原理与实践方法探究
|
2月前
|
消息中间件 Cloud Native Java
【Spring云原生系列】SpringBoot+Spring Cloud Stream:消息驱动架构(MDA)解析,实现异步处理与解耦合
【Spring云原生系列】SpringBoot+Spring Cloud Stream:消息驱动架构(MDA)解析,实现异步处理与解耦合
|
5月前
|
JSON 负载均衡 Java
Spring Cloud Ribbon:负载均衡的服务调用
Spring Cloud Ribbon:负载均衡的服务调用
68 0
|
7月前
|
负载均衡
09SpringCloud - Ribbon项目示例
09SpringCloud - Ribbon项目示例
18 0
|
5月前
|
负载均衡 Cloud Native Java
【云原生】Spring Cloud Alibaba 之 Gateway 服务网关实战开发
【云原生】Spring Cloud Alibaba 之 Gateway 服务网关实战开发
462 0
|
16天前
|
负载均衡 算法
SpringCloud&Ribbon负载均衡原理与实践
SpringCloud&Ribbon负载均衡原理与实践
20 3
|
2月前
|
消息中间件 Cloud Native 网络安全
云原生最佳实践系列 3:基于 SpringCloud 应用玩转 MSE
该文档介绍了基于云原生应用的产品构建的微服务架构实践。
|
2月前
|
负载均衡 算法 Java
【Springcloud Alibaba微服务分布式架构 | Spring Cloud】之学习笔记(四)Ribbon的使用
【Springcloud Alibaba微服务分布式架构 | Spring Cloud】之学习笔记(四)Ribbon的使用
27 0
|
2月前
|
负载均衡
【二十】搭建SpringCloud项目四(Ribbon)
【二十】搭建SpringCloud项目四(Ribbon)
21 0
|
2月前
|
存储 负载均衡 Java
【Spring底层原理高级进阶】微服务 Spring Cloud 的注册发现机制:Eureka 的架构设计、服务注册与发现的实现原理,深入掌握 Ribbon 和 Feign 的用法 ️
【Spring底层原理高级进阶】微服务 Spring Cloud 的注册发现机制:Eureka 的架构设计、服务注册与发现的实现原理,深入掌握 Ribbon 和 Feign 的用法 ️