dubbo负载均衡策略

本文涉及的产品
应用型负载均衡 ALB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
简介: 概述    本篇文章主要是想讲解清楚dubbo的负载均衡策略,其中文章的内容部分共享自网络,部分来自自己的整理,目的还是跟以往一样,将一个简单的问题讲解清楚。

概述

    本篇文章主要是想讲解清楚dubbo的负载均衡策略,其中文章的内容部分共享自网络,部分来自自己的整理,目的还是跟以往一样,将一个简单的问题讲解清楚。


负载均衡策略及优缺点

    Dubbo 负载均衡策略提供下列四种方式:

    Random LoadBalance 随机,按权重设置随机概率。 Dubbo的默认负载均衡策略

        在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。

    RoundRobin LoadBalance 轮循,按公约后的权重设置轮循比率。

        存在慢的提供者累积请求问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。

    LeastActive LoadBalance 最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。

        使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。

    ConsistentHash LoadBalance 一致性Hash,相同参数的请求总是发到同一提供者。

        当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。

img_596c1ab7265b90b511e817292b937e6a.png
负载均衡类图


Random负载均衡策略

    负载均衡策略也分为权重相同和权重不相同两种情况进行处理,整个代码处理是先计算各个invoker(provider)的权重,判定权重是否相等以及总权重是多少。

    如果权重不相等,那么我们就对总权重进行随机取值(通过random.nextInt实现),然后遍历invokers将随机的权重值减去每个invoker的权重,如果得出的结果为负数说明由该invoker提供服务。

    如果权重相等,那么就通过random.nextInt()在所有的invoker当中随机选择一个invoker就可以了。

img_d10d0f857e2906e5d362368ac2938494.png
随机负载均衡策略

RoundRobin负载均衡策略

    轮询负载均衡策略分为权重相同和权重不同两种策略,整个代码遍历所有invoker的权重求出最小最大权重以及权重之和。

    针对每个方法,我们会维持一个sequences对象,这个其实就是一个atomic类的整数类型计数。每次进来的时候会循环递增。

    针对权重不相同的情况,我们外层循环按照最大权重去循环,内层循环是invoker的个数,这里其实我们要记住由于我们总权重是把所有invoker的权重相加,而循环是拿最大权重*所有invoker的个数,所以后者肯定大于前者。

    权重不同的举个例子,假设invoker A权重400,invoker B权重为100,invoker C权重为100,这个时候假设mod为300,那么在遍历A,B,C过程中我们会将mod进行递减,invoker A、B、C递减,最后发现invoker剩余300,最后返回invoker A,这里的关键是递减那部分逻辑很重要。

    针对权重相同的情况其实就是我们常见的i++%invoker个数。

img_be0a4cf3dad10425dd32a1b16f225f4f.png
轮询负载均衡策略

LeastActive负载均衡策略

    最小active的负载均衡策略也分为有权重和没有权重两种情况,整体思路是每次在所有invoker中获取active最低的个数,然后后面的invoker选择就在最低active的集群当中选择。

    有权重和没有权重的最低active选择都是基于上面说的数组,举个例子,假如现在有4个invoker,然后具备最低active的invoker有2个,那么后面我们就在最低active的2个invoker进行选择。

    带权重的选择就是根据最低active的权重和随机生成一个随机权重,然后遍历最低active的数目,每次减去invoker的权重,当权重为负数的时候就以该invoker提供服务。

    不带权重的选择就是根据最低active的数量通过random.nextInt方式随机返回一个invoker就可以。

img_7722b2a19bd24fa9a6166e5beba7668f.png

ConsistentHash负载均衡策略

    一致性hash的负载均衡策略其实就跟一致性hash的原理一样,主要也是分成生成虚拟节点和选择节点提供服务。

    首先我们先生成invoker也就是服务接口对应的selector,原则是没有就生成一个。每个invoker虚拟节点的生成的原则很简单:会根据虚拟节点设置的个数/4进行外层循环,以4进行内层循环生成。

    其次我们提取请求中携带的参数(因为我们规定了按照哪些参数进行hash)生成hash值,然后选择对应的虚拟节点(如果存在这个hash值),或者选择大于该值的第一个虚拟节点的值,最后去选择对应的invoker。

img_dd240082cb17f0bf21f3a5b217287827.png
选择hash过程


img_4e6e3b711e6ff57bc7146b2a473ac2c9.png
生成虚拟节点


img_20c615d1026a7688b420ed4aa930f317.png
根据参数选择节点


负载均衡之源码debug

    1、先本地启动zookeeper的注册中心   

    2、直接复用dubbo的源码,我们需要修改provider里面的properties然后启动多个provider,只有多个provider才能调试负载均衡策略。

    3、consumer直接进行debug跟踪即可。

img_53dd64fb0fbcd141342ba8d477df4246.png
debug方案
相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
目录
相关文章
|
6天前
|
负载均衡 算法
架构学习:7种负载均衡算法策略
四层负载均衡包括数据链路层、网络层和应用层负载均衡。数据链路层通过修改MAC地址转发帧;网络层通过改变IP地址实现数据包转发;应用层有多种策略,如轮循、权重轮循、随机、权重随机、一致性哈希、响应速度和最少连接数均衡,确保请求合理分配到服务器,提升性能与稳定性。
64 11
架构学习:7种负载均衡算法策略
|
6天前
|
负载均衡 IDE Java
SpringBoot整合XXL-JOB【04】- 以GLUE模式运行与执行器负载均衡策略
在本节中,我们将介绍XXL-JOB的GLUE模式和集群模式下的路由策略。GLUE模式允许直接在线上改造方法为定时任务,无需重新部署。通过一个测试方法,展示了如何在调度中心配置并使用GLUE模式执行定时任务。接着,我们探讨了多实例环境下的负载均衡策略,确保任务不会重复执行,并可通过修改路由策略(如轮训)实现任务在多个实例间的均衡分配。最后,总结了GLUE模式和负载均衡策略的应用,帮助读者更深入理解XXL-JOB的使用。
24 9
|
1月前
|
负载均衡 Java Nacos
常见的Ribbon/Spring LoadBalancer的负载均衡策略
自SpringCloud 2020版起,Ribbon被弃用,转而使用Spring Cloud LoadBalancer。Ribbon支持轮询、随机、加权响应时间和重试等负载均衡策略;而Spring Cloud LoadBalancer则提供轮询、随机及Nacos负载均衡策略,基于Reactor实现,更高效灵活。
128 0
|
3月前
|
负载均衡 应用服务中间件 nginx
Nginx的6大负载均衡策略及权重轮询手写配置
【10月更文挑战第9天】 Nginx是一款高性能的HTTP服务器和反向代理服务器,它在处理大量并发请求时表现出色。Nginx的负载均衡功能可以将请求分发到多个服务器,提高网站的吞吐量和可靠性。以下是Nginx支持的6大负载均衡策略:
364 7
|
3月前
|
负载均衡 算法 Java
腾讯面试:说说6大Nginx负载均衡?手写一下权重轮询策略?
尼恩,一位资深架构师,分享了关于负载均衡及其策略的深入解析,特别是基于权重的负载均衡策略。文章不仅介绍了Nginx的五大负载均衡策略,如轮询、加权轮询、IP哈希、最少连接数等,还提供了手写加权轮询算法的Java实现示例。通过这些内容,尼恩帮助读者系统化理解负载均衡技术,提升面试竞争力,实现技术上的“肌肉展示”。此外,他还提供了丰富的技术资料和面试指导,助力求职者在大厂面试中脱颖而出。
腾讯面试:说说6大Nginx负载均衡?手写一下权重轮询策略?
|
4月前
|
负载均衡 Java 对象存储
负载均衡策略:Spring Cloud与Netflix OSS的最佳实践
负载均衡策略:Spring Cloud与Netflix OSS的最佳实践
70 2
|
5月前
|
负载均衡 应用服务中间件 Linux
在Linux中,Nginx如何实现负载均衡分发策略?
在Linux中,Nginx如何实现负载均衡分发策略?
|
5月前
|
缓存 负载均衡 算法
在Linux中, LVS负载均衡有哪些策略?
在Linux中, LVS负载均衡有哪些策略?
|
5月前
|
负载均衡 Dubbo 算法
Dubbo服务负载均衡原理
该文章主要介绍了Dubbo服务负载均衡的原理,包括Dubbo中负载均衡的实现位置、为什么需要负载均衡机制、Dubbo支持的负载均衡算法以及随机负载均衡策略的源码分析。
|
6月前
|
消息中间件 负载均衡 算法
【RocketMQ系列十二】RocketMQ集群核心概念之主从复制&生产者负载均衡策略&消费者负载均衡策略
【RocketMQ系列十二】RocketMQ集群核心概念之主从复制&生产者负载均衡策略&消费者负载均衡策略
188 2