微服务调用 Feign 与负载均衡|学习笔记(三)

本文涉及的产品
注册配置 MSE Nacos/ZooKeeper,118元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
云原生网关 MSE Higress,422元/月
简介: 快速学习微服务调用 Feign 与负载均衡

开发者学堂课程【5天突破 Spring Cloud微服务调用 Feign 与负载均衡】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/781/detail/13702


微服务调用 Feign 与负载均衡


在客户端代理注意一个问题,接口声明的时候,搜索订单服务等真正调后台的方法靠@RequestMapping 来进行匹配。后台 hi 通过真正的地址偏移和服务名,转给真正的后台订单服务的 hello 方法,这是真正的过程。

测试为了代理,功能正不正常,能不能和后台服务进行交互,定义了客户端代理变量,该变量没有真正的对象,因为这是 Spring 帮助创建对象,这里使用了动量代理机制,底层动态创建对象然后注入,然后通过这个调用。

声明对象没有变量,直接调用方法会出现空值异常,Spring 从诞生之初就在帮助大家解决繁琐的工作,到 Spring Boot 阶段更有代表性了,变得更傻瓜式了。

接下来先启动注册中心再启动微服务,再启动测试客户端 Feign 这个程序。注册中心背后做繁杂的工作,表面上看只有一个注解,但是通过源码可知背后调用 Tomcat,在8761端口上暴露地址,背后有缓存和维护等,维护所有向它注册的服务列表,再启用多线程定时,一般是30秒,将注册到注册中心的服务通信一遍,发送消息,查看是否正常。注册中心可以主动更新信息。

运行 run 注册中心,刷新一下注册中心界面,一个服务都没有,先刷新一个服务,先订单一,run 运行。然后启动项目程序,9001端口是调用方,注册中心是8001,可以打开浏览器测试,搜索localhost:8001/hello,看后端服务是对的。同理测试9001,通过 hi 调,hi 会通过客户端代理通过网络请求发给后端微服务,微服务本身架构更复杂,数据链路多了一层,后期还经过代理,反映一个问题并不是集群架构是最优的。

启动出错,查看错误信息:

创建的时候依赖项有问题,程序没启用EurekaClient,与注册中心连不上,作为调用端,添加一个注解@EnableEurekaClient,帮助完成与注册中心打交道。再次启动出错找不到 ClientProxy,检查复制单词是否拼写错误。

再次启动仍出错,再添加注解@EnableFeignClients,启动成功

。Feign 底层实际也依赖 EurekaClient,也需要和注册中心打交道,也涉及服务的过滤,包括后期状态缓存列表的更新问题。再集群架构模式下尤其是微服务这种更复杂的体系下会变得更复杂,这里在同一目录下是为了简单,后面可以拆到不同的包中,为了测试简单。再次浏览器测试调用 hi,测试成功返回了服务器端的字符串。

这体现了复杂的调用链,通过代理通过网络请求去找服务端的注册中心的微服务真实例子的某一台。体现多台可以把第二台服务上线,注册中心有服务一2021,第二台服务与第一台是一模一样的,只是端口是9002,返回2022,区分返回字符串,区分是哪台服务器来的。注意添加@EnableEurekaClient,默认添加了,自动和注册中心叫交互,然后启动。如果出现包级别,在 Order 订单微服务中没有加入包扫描的路径,因为这里包的级别更低层次,除了根目录的包其他都低一级。

另外,如果 com.alibaba 与目录级别相同的话,需要加扫描,显示指定扫描哪个包,放在不同目录级别下需要添加包扫描的路径。

image.png再看注册中心,调用端程序也注册了,但其实是没必要的,订单服务已注册两台,8002和8001返回的字符串不一样,调8002返回2002,再通过9001 Feign 来调,

image.png返回字符串2001和2002会发生变化,因为从注册中心实际 Feign 服务列表有两台注册中心服务,再执行一个策略:挨个轮询,体现一个最公平的策略挨个轮询,随机就是不确定,抽到谁就是谁。

真正微服务调用优化策略挨个轮询与随机并不是最好的,因为微服务程序后台压力不确定服务配置也有差距,理论配置更好或者资源空闲更多的可以多调用几次,有些服务器处理比较强目前还没有压力,实际服务器公平但不一定合理,要合理的话算法会加上服务端当前处理的请求处理的监控、服务器的当前可用资源消耗的监控。

还有一个策略在某些情况下有些客户端请求连续在同一台机器上处理会比较合理,保证数据尽可能在同一台机器处理,相对比较连贯。算法没有绝对好绝对坏,可根据后续定制优化。

再调用端还可以做额外限流,一台订单服务处理一千个请求,或者假设来了一百万但只有十台服务器,会链崩溃,现在就需要限制一下,这就涉及限流问题。

 

三.负载均衡

(一)Spring Cloud 负载均衡器 Ribbon

1.Spring Cloud 客户端负载均衡器 Ribbon

2.Ribbon 是 Netflix 发布的开源项目

3.Ribbon 主要功能是提供客户端的软件负载均衡算法

4.Ribbon 将 Netflix 的中间层服务连接在一起

5.Ribbon 客户端组件提供许多配置如连接超时,重试等

6.配置文件中列出后台所有机器

7.Ribbon 会自动(如简单轮询,随机连接等)去连接这些机器

8.Spring Cloud 使用 Ribbon 实现自定义的负载均衡算法

(二)Ribbon 负载均衡算法

1. 默认规则:轮询 RoundRobin

2. 简单轮询负载均衡(RoundRobin)

3. 随机负载均衡(Random)随机选择 UP 的Server

4. 加权响应时间负载均衡 WeightedResponseTime

5. 区域感知轮询负载均衡(ZoneAware)

早期公司提供了 Ribbon 组件,主要解决负载均衡算法,负载均衡算法注意默认就是轮询,随机就是保证不了每一台都能调用,在随机次数足够多的情况下出现相对公平,轮询是挨个排,某些外在因素会导致算法不够。Ribbon 常见的算法第一个是 RoundRobin,比较好一点的是加权的。

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
5月前
|
机器学习/深度学习 负载均衡 Java
【SpringBoot系列】微服务远程调用Open Feign深度学习
【4月更文挑战第9天】微服务远程调度open Feign 框架学习
260 2
|
8天前
|
前端开发 API 微服务
SpringCloud微服务之间使用Feign调用不通情况举例
SpringCloud微服务之间使用Feign调用不通情况举例
40 2
|
3月前
|
负载均衡 Java API
Feign 进行rpc 调用时使用ribbon负载均衡源码解析
Feign 进行rpc 调用时使用ribbon负载均衡源码解析
64 11
|
3月前
|
负载均衡 监控 Kubernetes
Service Mesh 是一种用于处理服务间通信的基础设施层,它通常与微服务架构一起使用,以提供诸如服务发现、负载均衡、熔断、监控、追踪和安全性等功能。
Service Mesh 是一种用于处理服务间通信的基础设施层,它通常与微服务架构一起使用,以提供诸如服务发现、负载均衡、熔断、监控、追踪和安全性等功能。
|
3月前
|
缓存 负载均衡 算法
微服务之客户端负载均衡
微服务中的客户端负载均衡是指将负载(即工作任务或访问请求)在客户端进行分配,以决定由哪个服务实例来处理这些请求。这种负载均衡方式与服务端负载均衡相对,后者是在服务端(如服务器或负载均衡器)进行请求的分发。
54 5
|
5月前
|
SpringCloudAlibaba Java 网络架构
【Springcloud Alibaba微服务分布式架构 | Spring Cloud】之学习笔记(七)Spring Cloud Gateway服务网关
【Springcloud Alibaba微服务分布式架构 | Spring Cloud】之学习笔记(七)Spring Cloud Gateway服务网关
240 0
|
5月前
|
缓存 负载均衡 监控
探索分布式系统演进之路:从负载均衡到微服务架构
小米分享了分布式系统的发展,从早期的负载均衡(入口级、网关和客户端)到微服务架构的演进。微服务实现服务解耦,增强系统弹性,但带来了新的挑战。为优化数据库性能,实施了主备读写分离、全文搜索引擎、缓存集群等措施。通过微服务治理,如服务注册、动态配置、灰度发布等,提升了系统稳定性和可靠性。未来将继续优化分布式系统,提供更好的服务体验。关注公众号“软件求生”了解更多。
81 6
|
5月前
|
负载均衡 Java Apache
【微服务系列笔记】Feign
Feign是一个声明式的伪HTTP客户端,它使得HTTP请求变得更简单。使用Feign,只需要创建一个接口并注解。Feign默认集成了Ribbon,并和Eureka结合,默认实现了负载均衡的效果。 OpenFeign 是SpringCloud在Feign的基础上支持了SpringMVC的注解。
105 8
|
5月前
|
负载均衡 算法 应用服务中间件
【微服务系列笔记】负载均衡
本文介绍了负载均衡的概念和重要性,指出随着流量增长,通过垂直扩展和水平扩展来提升系统性能,其中水平扩展引入了负载均衡的需求。负载均衡的目标是将流量分布到多台服务器以提高响应速度和可用性,常见的硬件和软件负载均衡器包括F5、A10、Nginx、HAProxy和LVS等。 文章接着提到了Ribbon,这是一个客户端实现的负载均衡器,用于Spring Cloud中。Ribbon在发起REST请求时进行拦截,根据预设的负载均衡算法(如随机算法)选择服务器,并重构请求URI。文中还介绍了如何通过代码和配置文件两种方式自定义Ribbon的负载均衡策略。
226 3
|
5月前
|
负载均衡 应用服务中间件 nginx
服务器架构、分布式系统、负载均衡、微服务、高可用性
**分布式系统取代单体架构,以微服务实现高扩展性和灵活性。通过负载均衡技术增强性能,防止单点故障,结合冗余备份与故障切换保障高可用性,这种架构是支撑大规模在线业务的关键。**
125 3
下一篇
无影云桌面