Nacos负载均衡方案

本文涉及的产品
网络型负载均衡 NLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介: Nacos负载均衡方案

常见的负载均衡策略

image.png

随机、hash、轮询、权重、最小连接数、最快响应速度

适用场景

1、在短连接中 因为连接快速建立销毁 因为数据延时容易造成堆积效应, 随机、hash、轮询、权重 四种方式大致能够保持整体是均衡的,服务端重启也不会影响整体均衡

2、最小连接、最快响应速度是有状态的算法,因为数据延时容易造成堆积效应

3、长连接,连接会一直保持,断连后需要重新选择一个新的服务节点,当服务重启后,最终连接数会出现不均衡的情况

4、随机、轮询、权重的策略在客户端重连切换时可以使用


长连接相对短连接的优势

在整体连接稳定时,服务端需要一个rebalance机制,将集群视角的连接数重新洗牌分配,趋向另外一种稳态

Nacos负载均衡方案

客户端随机选择/基于权重随机+服务端运行时柔性调整

image.png

1、建立连接:启动时实时连接一次,失败后进入异步重连

2、连接切换

  • 服务端推送切换
    异步切换节点,指定IP,只做一次客户端连接尝试,失败后正常切换
  • 心跳失败
    心跳失败时,启动切换
  • 请求失败时
    如果连接状态不合法,启动异步重连

服务端重启时连接切换的流程


image.png

1、服务集群中的Server1要重启,将Server1的连接数上限设置为0

2、Server1推送给他所服务的客户端,告诉客户端我要下班了

3、客户端接收到Server1发送过来的连接重置指令,然后进行节点切换

4、Server1进行重启,重启好之后,告诉其他的Server,我来上班了,让集群知道Server1可以正常提供服务了

通过控制台监控数据和运维管理

微信图片_20220502103657.png

1、Server之间的数据共享,包含负载计算数据、变更管理、权重值、节点监控数据、调节策略数据

2、通过web ui控制台可以查看到这些监控数据包括基础系统信息和连接数

3、通过控制台也可以进行运维操作 比如重启(柔性驱逐)/连接数上限调整/指定节点重置

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
2月前
|
负载均衡 Java Nacos
SpringCloud基础1——远程调用、Eureka,Nacos注册中心、Ribbon负载均衡
微服务介绍、SpringCloud、服务拆分和远程调用、Eureka注册中心、Ribbon负载均衡、Nacos注册中心
SpringCloud基础1——远程调用、Eureka,Nacos注册中心、Ribbon负载均衡
|
负载均衡 Java Nacos
Nacos有几种负载均衡策略?
Nacos有几种负载均衡策略?
881 0
Nacos有几种负载均衡策略?
|
5月前
|
负载均衡 算法 Nacos
SpringCloud之LoadBalancer自定义负载均衡算法,基于nacos权重
ReactorLoadBalancer接口,实现自定义负载算法需要实现该接口,并实现choose逻辑,选取对应的节点。
465 0
|
负载均衡 监控 算法
云计算 - 负载均衡SLB方案全解与实战
云计算 - 负载均衡SLB方案全解与实战
419 0
|
6月前
|
SpringCloudAlibaba 负载均衡 Java
【二】SpringCloud Alibaba之Nacos整合篇(配置负载均衡)
【二】SpringCloud Alibaba之Nacos整合篇(配置负载均衡)
953 0
|
存储 负载均衡 算法
作者推荐 | 【分布式技术专题】「架构设计方案」图解学习法总结集群模式下的各种软负载均衡策略实现及原理分析
作者推荐 | 【分布式技术专题】「架构设计方案」图解学习法总结集群模式下的各种软负载均衡策略实现及原理分析
180 0
作者推荐 | 【分布式技术专题】「架构设计方案」图解学习法总结集群模式下的各种软负载均衡策略实现及原理分析
|
安全 Cloud Native Nacos
Nacos安全漏洞修复方案:保护您的应用服务
尊敬的家人们,大家好!在过去的几年中,Nacos作为阿里巴巴推出的一项开源项目,为云原生应用的构建和管理提供了许多便利。然而,最近发现了一个安全漏洞,该漏洞可能导致未经授权的用户获取到敏感信息。为了确保您的应用程序的安全性,我们将在本文中向您介绍修复Nacos漏洞的方案
1532 0
Nacos安全漏洞修复方案:保护您的应用服务
|
Dubbo Java 应用服务中间件
Spring Boot+Nacos+gRPC,一个区别于 OpenFeign 的微服务通信方案!
Spring Boot+Nacos+gRPC,一个区别于 OpenFeign 的微服务通信方案!
|
缓存 SpringCloudAlibaba 负载均衡
springCloudAlibaba组件-Nacos-服务发现与负载均衡(三)
springCloudAlibaba组件-Nacos-服务发现与负载均衡(三)
|
存储 负载均衡 容灾
Nacos多级服务存储模型, NacosRule负载均衡规则入门
下面来简单认识一下今天的主角Nacos吧.Nacos给我们提供了一个这样的服务分级存储模型:1级是服务, 2级是集群, 3级是实例. Nacos提供了权重配置来控制访问频率, 权重越大访问频率越高;Nacos同一集群的默认权重是1:1的;Nacos控制台可以设置实例的权重值0~1之间
511 0
下一篇
无影云桌面