微服务【Ribbon负载均衡&源码解析&饥饿加载】第2章

本文涉及的产品
注册配置 MSE Nacos/ZooKeeper,118元/月
云原生网关 MSE Higress,422元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 本文主要介绍:1,Ribbon负载均衡原理 2,源码跟踪 3,负载均衡策略 4,饥饿加载

1,负载均衡原理

1.1:负载均衡原理

SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的

负载均衡流程图:

image.gif编辑

那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢?

具体Ribbon什么时候拦截下来的请求?什么时候从注册中心拉取下来的?什么时候做的负载均衡呢?下面我们进入idea中分析源码

1.2:源码跟踪

首先看到restTemplate被LoadBalanced进行标记,意思就是说

通过restTemplate发起的请求会被LoadBalanced进行处理拦截

image.gif编辑

那么这个拦截的动作在底层中是通过谁进行完成的呢?就是:LoadBalancerInterceptor

1)LoadBalancerInterceptor

首先在编辑器中Ctrl+Shift+N搜索 LoadBalancerInterceptor 该实现类

image.gif编辑

点进去查看一下源码:该实现类实现了ClientHttpRequestInterceptor接口,那么这个接口是干嘛的呢?

image.gif编辑

 该接口是客户端请求拦截器,那么restTemplate不就是一个发Http请求的客户端嘛!被拦截image.gif编辑

既然实现类实现了ClientHttpRequestInterceptor接口,也实现了接口中的intercept方法,下面看一下这个方法具体在干嘛!(打个断点演示一下,图片放大更清楚)

image.gif编辑

可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:

    • request.getURI()获取请求uri,本例中就是http://service-provide/echo/love
    • originalUri.getHost()获取uri路径的主机名,其实就是服务id,service-provide
    • this.loadBalancer.execute()处理服务id,和用户请求

    这里的this.loadBalancerLoadBalancerClient类型,我们继续跟入。  

    2)LoadBalancerClient

    继续跟入execute方法:

    image.gif编辑

    跟入到此接口中:

    image.gif编辑

    跟入到接口的实现类中:

    image.gif编辑

    总结:

    跟踪到execute方法中,将参数服务Id传递进来交给Load Balancer函数进行处理,

    返回出:动态服务列表负载均衡器。

    这个负载均衡器是干嘛的?

    通过服务Id获取到服务注册中心的服务列表,现在这一步已经把服务拉取到了

    image.gif编辑  

    下一步进行负载均衡

    3)负载均衡策略IRule

    在刚才的代码中,可以看到获取服务使通过一个getServer方法来做负载均衡:

    image.gif编辑

    我们继续跟入:

    image.gif编辑

    继续跟踪源码chooseServer方法,发现这么一段代码:  

    image.gif编辑

    我们看看这个rule是谁:

    image.gif编辑

    对象是IRule对象,我们知道I是接口,Rule是规则,那么就是规则接口,那接口有实现类,咱们Ctrl+H查看一下继承树

    image.gif编辑

    image.gif编辑到这里,整个负载均衡的流程我们就清楚了。

    4)总结

    SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下:

    image.gif编辑

    基本流程如下:

      • 拦截我们的RestTemplate请求http://localhost:8071/fangwen/love
      • RibbonLoadBalancerClient会从请求url中获取服务名称
      • DynamicServerListLoadBalancer根据user-service到nacos拉取服务列表
      • nacos返回列表
      • IRule利用内置负载均衡规则,从列表中选择一个,
      • RibbonLoadBalancerClient修改请求地址,发起真实请求

      1.3:负载均衡策略

      1.3.1:负载均衡策略

      负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:

      image.gif编辑

      不同规则的含义如下:

      image.gif编辑

      默认的实现就是ZoneAvoidanceRule,是一种轮询方案  

      1.3.2:自定义负载均衡策略

      通过定义IRule实现可以修改负载均衡规则,有两种方式

        1. 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:
        @Bean
        public IRule randomRule(){
            return new RandomRule();
        }

        image.gif

            2. 配置文件方式:在application.yml文件中,添加新的配置也可以修改规则:

        userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
          ribbon:
            NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则

        image.gif

        注意,一般用默认的负载均衡规则,不做修改。

        1.4:饥饿加载

        Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。

        什么意思呢?(访问监测一下)

        第一次请求:请求耗时如此之长

        image.gif编辑

        第二次请求:请求耗时很短

        image.gif编辑

        为什么会有这种变化呢?

        当然导致请求耗时过长的因素有很多,在这里最重要的一个因素是Ribbon采用了懒加载。

        那么何为懒加载?

        即第一次访问时才会去创建LoadBalanceClient,去服务注册中心拉取服务,导致时间加载过长。

        为了解决第一次访问才创建LoadBalanceClient导致耗时过长,可以采用饥饿加载。

        何为饥饿加载?

        饥饿加载则会在项目启动时进行创建,降低第一次访问的耗时,通过下面配置yml文件开启饥饿加载:

        ribbon:

         eager-load:

           enabled: true   # 开启饥饿加载

           clients: userservice   # 指定对userservice这个服务饥饿加载

        相关实践学习
        SLB负载均衡实践
        本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
        负载均衡入门与产品使用指南
        负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
        相关文章
        |
        14天前
        |
        存储 设计模式 算法
        【23种设计模式·全精解析 | 行为型模式篇】11种行为型模式的结构概述、案例实现、优缺点、扩展对比、使用场景、源码解析
        行为型模式用于描述程序在运行时复杂的流程控制,即描述多个类或对象之间怎样相互协作共同完成单个对象都无法单独完成的任务,它涉及算法与对象间职责的分配。行为型模式分为类行为模式和对象行为模式,前者采用继承机制来在类间分派行为,后者采用组合或聚合在对象间分配行为。由于组合关系或聚合关系比继承关系耦合度低,满足“合成复用原则”,所以对象行为模式比类行为模式具有更大的灵活性。 行为型模式分为: • 模板方法模式 • 策略模式 • 命令模式 • 职责链模式 • 状态模式 • 观察者模式 • 中介者模式 • 迭代器模式 • 访问者模式 • 备忘录模式 • 解释器模式
        【23种设计模式·全精解析 | 行为型模式篇】11种行为型模式的结构概述、案例实现、优缺点、扩展对比、使用场景、源码解析
        |
        14天前
        |
        设计模式 存储 安全
        【23种设计模式·全精解析 | 创建型模式篇】5种创建型模式的结构概述、实现、优缺点、扩展、使用场景、源码解析
        结构型模式描述如何将类或对象按某种布局组成更大的结构。它分为类结构型模式和对象结构型模式,前者采用继承机制来组织接口和类,后者釆用组合或聚合来组合对象。由于组合关系或聚合关系比继承关系耦合度低,满足“合成复用原则”,所以对象结构型模式比类结构型模式具有更大的灵活性。 结构型模式分为以下 7 种: • 代理模式 • 适配器模式 • 装饰者模式 • 桥接模式 • 外观模式 • 组合模式 • 享元模式
        【23种设计模式·全精解析 | 创建型模式篇】5种创建型模式的结构概述、实现、优缺点、扩展、使用场景、源码解析
        |
        14天前
        |
        设计模式 存储 安全
        【23种设计模式·全精解析 | 创建型模式篇】5种创建型模式的结构概述、实现、优缺点、扩展、使用场景、源码解析
        创建型模式的主要关注点是“怎样创建对象?”,它的主要特点是"将对象的创建与使用分离”。这样可以降低系统的耦合度,使用者不需要关注对象的创建细节。创建型模式分为5种:单例模式、工厂方法模式抽象工厂式、原型模式、建造者模式。
        【23种设计模式·全精解析 | 创建型模式篇】5种创建型模式的结构概述、实现、优缺点、扩展、使用场景、源码解析
        |
        14天前
        |
        安全 搜索推荐 数据挖掘
        陪玩系统源码开发流程解析,成品陪玩系统源码的优点
        我们自主开发的多客陪玩系统源码,整合了市面上主流陪玩APP功能,支持二次开发。该系统适用于线上游戏陪玩、语音视频聊天、心理咨询等场景,提供用户注册管理、陪玩者资料库、预约匹配、实时通讯、支付结算、安全隐私保护、客户服务及数据分析等功能,打造综合性社交平台。随着互联网技术发展,陪玩系统正成为游戏爱好者的新宠,改变游戏体验并带来新的商业模式。
        |
        2月前
        |
        设计模式 Java API
        微服务架构演变与架构设计深度解析
        【11月更文挑战第14天】在当今的IT行业中,微服务架构已经成为构建大型、复杂系统的重要范式。本文将从微服务架构的背景、业务场景、功能点、底层原理、实战、设计模式等多个方面进行深度解析,并结合京东电商的案例,探讨微服务架构在实际应用中的实施与效果。
        149 6
        |
        2月前
        |
        设计模式 Java API
        微服务架构演变与架构设计深度解析
        【11月更文挑战第14天】在当今的IT行业中,微服务架构已经成为构建大型、复杂系统的重要范式。本文将从微服务架构的背景、业务场景、功能点、底层原理、实战、设计模式等多个方面进行深度解析,并结合京东电商的案例,探讨微服务架构在实际应用中的实施与效果。
        57 1
        |
        1月前
        |
        Java 开发者 微服务
        从单体到微服务:如何借助 Spring Cloud 实现架构转型
        **Spring Cloud** 是一套基于 Spring 框架的**微服务架构解决方案**,它提供了一系列的工具和组件,帮助开发者快速构建分布式系统,尤其是微服务架构。
        165 69
        从单体到微服务:如何借助 Spring Cloud 实现架构转型
        |
        1月前
        |
        运维 监控 持续交付
        微服务架构解析:跨越传统架构的技术革命
        微服务架构(Microservices Architecture)是一种软件架构风格,它将一个大型的单体应用拆分为多个小而独立的服务,每个服务都可以独立开发、部署和扩展。
        197 36
        微服务架构解析:跨越传统架构的技术革命
        |
        4月前
        |
        安全 应用服务中间件 API
        微服务分布式系统架构之zookeeper与dubbo-2
        微服务分布式系统架构之zookeeper与dubbo-2
        |
        4月前
        |
        负载均衡 Java 应用服务中间件
        微服务分布式系统架构之zookeeper与dubbor-1
        微服务分布式系统架构之zookeeper与dubbor-1

        推荐镜像

        更多