restTemplate loadbalance 负载均衡使用demo 案例 原理以及全网最细源码解析

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: restTemplate loadbalance 负载均衡使用demo 案例 原理以及全网最细源码解析

restTemplate 是spring 提供的http请求工具,类似于httpclient,

默认情况下与其他的http 工具类没有区别

但是当添加了@Loadbalance 注解之后,则具备了负载均衡功能,可以通过服务名找到对应的ip:port进行访问

闲话少说,我们直接上demo

注册templete loadbalance bean

如果引入了spring cloud 默认会注册 loadbalance resttemplate

@Bean
  @LoadBalanced
  public RestTemplate restTemplate(){
    return new RestTemplate();
  }

使用方式 post 使用demo案例

我这里是用的spring cloud nacos ,针对工作流回调函数传入服务名进行负载均衡调用

@Autowired
    private  RestTemplate restTemplate;
    /***
     * 
     * @param serverName 服务名
     * @param event 回调事件
     * @param vars 回调参数j'son
     * @return R<String> 返回结果
     * 
     */
    @Override
    public R<String> call(String serverName,String event, String vars) {
        log.info("serverName:{},event:{},vars:{}",serverName,event,vars);
        String url = "http://"+serverName+"/workflow/callback/event";
        HttpHeaders httpHeaders = new HttpHeaders();
        httpHeaders.add(SecurityConstants.FROM, SecurityConstants.FROM_IN);
        HttpEntity<Void> httpEntity = new HttpEntity<>(null, httpHeaders);
        MultiValueMap<String, String> requestMap = new LinkedMultiValueMap<>();
        requestMap.add("event", event);
        requestMap.add("dataMapString", vars);
        ResponseEntity<R> r =  restTemplate.exchange(url, HttpMethod.POST,httpEntity,R.class,requestMap);
        return R.ok();
    }

接收端

/**
     * 工作流回调接口
     *
     * @param event         事件名称
     * @param dataMapString 传递参数
     *                      dataMapString 参数如下:
     *                      flag :审批结果 "审批,驳回,终止"
     *                      username: 该流程提交者用户名
     *                      busi_id: startSubmit 返回的流程业务id,与业务挂钩的主键
     *                      nodeId: 节点Id
     *                      assignee: 分配的审批人
     *                      auditer: 真正完成审批人
     *                      comment: 审批意见
     */
    @Inner
    @RequestMapping("/event")
    @ApiOperation(value = "工作流各种回调事件接口", tags = "工作流各种回调事件接口")
    public R callBack(String event,String dataMapString) {
        System.out.println("event:" + event + ",dataMapString:" + dataMapString);
        //流程相关参数
        Map<String, String> params = JSON.parseObject(dataMapString, new TypeReference<Map<String, String>>() {
        });
        //流程节点分到了具体审批人后回调事件
        if (WorkflowCallBackEvent.EVENT_ASSIGNEE.equals(event)) {
            return R.ok();
        }else{
            return R.failed();
        }
     }

redistemplete 执行loadbanlace 运行流程与源码分析

为了大家方便理解,我画了一个简单的运行泳道图,主要分为两个部分,第一是启动部分,如下图:f9747bad90b740b4ba1b1ac7324eb7d3.png

启动部分源码分析

整体流程描述


1. 通过LoadBalancerAutoConfiguration 加载所有带有@LoadBalanced 注解的restTemplate

2. 初始化 执行 loadBalancedRestTemplateInitializerDeprecated 方法内部遍历执行 customizer.customize(restTemplate)

3. customizer.customize(restTemplate) 其实就是执行 之前注入的bean RestTemplateCustomizer,然后执行restTemplate.setInterceptors(list)



初始化完毕

详细步骤源码分析

1. 通过LoadBalancerAutoConfiguration 加载所有带有@LoadBalanced 注解的restTemplate

重点,为什么是加载了有@LoadBalanced 注解的restTemplate 而不是所有的restTemplate ,因为@LoadBalanced 内有一个@Qualifier 元注解

因此有@LoadBalanced 注解的restTemplate 就绑成了一个整体注入到了spring 中管理


09382e67e86944339e38e8dbb108507f.png

3b3547906dc74b338a9777760dd009be.png

2. 初始化 执行 loadBalancedRestTemplateInitializerDeprecated 方法内部遍历执行 customizer.customize(restTemplate)


9a5609d6969045eaa1cab63f22faeb6e.png

3. customizer.customize(restTemplate) 其实就是执行 之前注入的bean RestTemplateCustomizer,然后执行restTemplate.setInterceptors(list);

811a692b4b494c8bb030d8f045fbce6f.png

setInterceptors(list) 其实就是注入了RetryLoadBalancerInterceptor ,现在完成后也就是将含有loadbalance 注解的resttemplate 注入了interceptor

redistemplete 执行exchange 负载均衡源码分析(参照上面流程图)

整体流程描述

1. redistemplete 执行 exchange,然后内部 exchange->execute->doExecute

2. 然后 createRequest 然后通过 getRequestFactory 创建request

3. getRequestFactory 会根据是否内部注册了拦截器来返回不同的factory, 有拦截会返回InterceptingClientHttpRequestFactory ,没有会返回SimpleClientHttpRequestFactory

4. InterceptingClientHttpRequestFactory 会创建返回InterceptingClientHttpRequest,SimpleClientHttpRequestFactory 会创建返回SimpleBufferingAsyncClientHttpRequest

5. SimpleBufferingAsyncClientHttpRequest 会正常和httpclient 一样执行execute,暂不多说,主要来说InterceptingClientHttpRequest ,这个是负责负载均衡的

6. InterceptingClientHttpRequest 执行execute ,内部会先执行拦截器也就是之前启动注入的RetryLoadBalancerInterceptor

7. RetryLoadBalancerInterceptor 内部会执行 RibbonLoadBalancerClient 的choose 方法用NamedContextFactory 将服务名从注册中心获取实例转为ip:port 的ServiceInstance

8. 然后 RetryLoadBalancerInterceptor 会拿着得到的ServiceInstance 正常执行http请求得到 ClientHttpResponse

9. 返回response 全部流程结束

详细步骤源码分析

1. redistemplete 执行 exchange,然后内部 exchange->execute->doExecute


927f6929b7404f7e91548d99e6f91a3d.png


d0cc92b3ebf3473c93a2d579efaba42b.png

2. 然后 createRequest 然后通过 getRequestFactory 创建request


4825b8d973fc49599b82a7b445a9a880.png


68fc21b2c791448b9d9d30e5d577536b.png

3. getRequestFactory 会根据是否内部注册了拦截器来返回不同的factory, 有拦截会返回InterceptingClientHttpRequestFactory ,没有会返回SimpleClientHttpRequestFactory

510f40c28fa04b39a35db78612da0a68.png


9ae0b80c408b4f0cb95c5a4305fc9676.png

4. InterceptingClientHttpRequestFactory 会创建返回InterceptingClientHttpRequest,SimpleClientHttpRequestFactory 会创建返回SimpleBufferingAsyncClientHttpRequest

2ad10ae012e8456eb6b317d312afe68b.png


bd21ebda0041427b984d7cb5d5e6a28b.png

5. SimpleBufferingAsyncClientHttpRequest 会正常和httpclient 一样执行execute,暂不多说,主要来说InterceptingClientHttpRequest ,这个是负责负载均衡的

b4cda9249e4440d09c2a03a5d6042fb4.png

f81b78334ded45c4a4ab99fd0baeb66b.png

6. InterceptingClientHttpRequest 执行execute ,内部会先执行拦截器也就是之前启动注入的RetryLoadBalancerInterceptor

34491e0e779c46f781d4dd32edf0418f.png

7. RetryLoadBalancerInterceptor 内部会执行 RibbonLoadBalancerClient 的choose 方法用 NamedContextFactory 将服务名从注册中心获取实例转为ip:port 的ServiceInstance

47b351fb1c694c34b4b23076c43d5a8a.png

61ca379889a344b1800bb54b40155912.png


4a30fef79eb04cbfb8e2c1ef69c9f563.png

8. 然后 RetryLoadBalancerInterceptor 会拿着得到的ServiceInstance 正常执行http请求得到 ClientHttpResponse

2f6b43374d0c4e9b94b097ce8f5b176a.png

9. 返回response 全部流程结束

注意点:如果resttemplate 加了@loadbalance 注解,那么就不可以在用ip:port 形式的url请求了,只能用servername 形式,不然会报错


相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
8天前
|
监控 Java 应用服务中间件
高级java面试---spring.factories文件的解析源码API机制
【11月更文挑战第20天】Spring Boot是一个用于快速构建基于Spring框架的应用程序的开源框架。它通过自动配置、起步依赖和内嵌服务器等特性,极大地简化了Spring应用的开发和部署过程。本文将深入探讨Spring Boot的背景历史、业务场景、功能点以及底层原理,并通过Java代码手写模拟Spring Boot的启动过程,特别是spring.factories文件的解析源码API机制。
28 2
|
8天前
|
存储 安全 Linux
Golang的GMP调度模型与源码解析
【11月更文挑战第11天】GMP 调度模型是 Go 语言运行时系统的核心部分,用于高效管理和调度大量协程(goroutine)。它通过少量的操作系统线程(M)和逻辑处理器(P)来调度大量的轻量级协程(G),从而实现高性能的并发处理。GMP 模型通过本地队列和全局队列来减少锁竞争,提高调度效率。在 Go 源码中,`runtime.h` 文件定义了关键数据结构,`schedule()` 和 `findrunnable()` 函数实现了核心调度逻辑。通过深入研究 GMP 模型,可以更好地理解 Go 语言的并发机制。
|
15天前
|
存储 人工智能 自然语言处理
高效档案管理案例介绍:文档内容批量结构化解决方案解析
档案文件内容丰富多样,传统人工管理耗时低效。思通数科AI平台通过自动布局分析、段落与标题检测、表格结构识别、嵌套内容还原及元数据生成等功能,实现档案的高精度分块处理和结构化存储,大幅提升管理和检索效率。某历史档案馆通过该平台完成了500万页档案的数字化,信息检索效率提升60%。
|
20天前
|
消息中间件 缓存 安全
Future与FutureTask源码解析,接口阻塞问题及解决方案
【11月更文挑战第5天】在Java开发中,多线程编程是提高系统并发性能和资源利用率的重要手段。然而,多线程编程也带来了诸如线程安全、死锁、接口阻塞等一系列复杂问题。本文将深度剖析多线程优化技巧、Future与FutureTask的源码、接口阻塞问题及解决方案,并通过具体业务场景和Java代码示例进行实战演示。
39 3
|
24天前
|
Prometheus 监控 Cloud Native
实战经验:成功的DevOps实施案例解析
实战经验:成功的DevOps实施案例解析
39 6
|
27天前
|
安全 Java
Java多线程通信新解:本文通过生产者-消费者模型案例,深入解析wait()、notify()、notifyAll()方法的实用技巧
【10月更文挑战第20天】Java多线程通信新解:本文通过生产者-消费者模型案例,深入解析wait()、notify()、notifyAll()方法的实用技巧,包括避免在循环外调用wait()、优先使用notifyAll()、确保线程安全及处理InterruptedException等,帮助读者更好地掌握这些方法的应用。
17 1
|
1月前
|
缓存 Java 程序员
Map - LinkedHashSet&Map源码解析
Map - LinkedHashSet&Map源码解析
68 0
|
1月前
|
算法 Java 容器
Map - HashSet & HashMap 源码解析
Map - HashSet & HashMap 源码解析
57 0
|
1月前
|
存储 Java C++
Collection-PriorityQueue源码解析
Collection-PriorityQueue源码解析
61 0
|
1月前
|
安全 Java 程序员
Collection-Stack&Queue源码解析
Collection-Stack&Queue源码解析
83 0

推荐镜像

更多
下一篇
无影云桌面