Spring Cloud(三)《应用服务快速失败熔断降级保护 Hystrix》

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
EMR Serverless StarRocks,5000CU*H 48000GB*H
应用型负载均衡 ALB,每月750个小时 15LCU
简介: 在互联网开发中经常会听到雪崩效应,比如某明星发一些状态某猿就要回去加班了!那么为了应对雪崩我们经常会进行服务扩容、添加缓存、优化流程但往往突发的事件依然有击穿缓存、应用负载、数据库IO、网络异常等等带来的风险,所以一些常见的做法有服务降级、限流、熔断,在逐步恢复系统可用率来保护系统。

前言介绍

在互联网开发中经常会听到雪崩效应,比如某明星发一些状态某猿就要回去加班了!那么为了应对雪崩我们经常会进行服务扩容、添加缓存、优化流程但往往突发的事件依然有击穿缓存、应用负载、数据库IO、网络异常等等带来的风险,所以一些常见的做法有服务降级、限流、熔断,在逐步恢复系统可用率来保护系统。

Hystrix 是一种熔断降级的中间件,由 Spring Cloud 集成整合后在Ribbon与Fegin中提供使用。

Hystrix is a latency and fault tolerance library designed to isolate points of access to remote systems, services and 3rd party libraries, stop cascading failure and enable resilience in complex distributed systems where failure is inevitable.

18.jpg

案例说明

本案例在itstack-demo-springcloud-02的基础上添加Hystrix服务,当我们的itstack-demo-springcloud-eureka-client尚未启动或主动停止后,我们在调用接口服务时候会进行熔断保护。

环境准备

1、jdk 1.8

2、Spring Boot 2.0.6.RELEASE

3、Spring Cloud Finchley.SR2

代码示例

1itstack-demo-springcloud-03
 2├── itstack-demo-springcloud-eureka-client
 3│   └── src
 4│       └── main
 5│           ├── java
 6│           │   └── org.itstack.demo
 7│           │        ├── web
 8│           │        │   └── EurekaClientController.java
 9│           │        └── EurekaClientApplication.java
10│           └── resources   
11│               └── application.yml
12├── itstack-demo-springcloud-eureka-server
13│   └── src
14│       └── main
15│           ├── java
16│           │   └── org.itstack.demo
17│           │        └── EurekaServerApplication.java
18│           └── resources   
19│               └── application.yml
20├── itstack-demo-springcloud-hystrix-feign
21│   └── src
22│       └── main
23│           ├── java
24│           │   └── org.itstack.demo
25│           │        ├── service
26│           │        │   ├── hystrix
27│           │        │   │   └── FeignServiceHystrix.java
28│           │        │   └── FeignService.java
29│           │        ├── web
30│           │        │   └── FeignController.java
31│           │        └── FeignApplication.java
32│           └── resources   
33│               └── application.yml
34└── itstack-demo-springcloud-hystrix-ribbon
35    └── src
36        └── main
37            ├── java
38            │   └── org.itstack.demo
39            │        ├── service
40            │        │   └── RibbonService.java
41            │        ├── web
42            │        │   └── RibbonController.java        
43            │        └── RibbonApplication.java
44            └── resources   
45                └── application.yml

完整代码欢迎关注公众号:bugstack虫洞栈 | 回复“SpringCloud专题”进行下载

itstack-demo-springcloud-eureka-client | 服务提供方

提供一个查询用户信息的简单方法,在配置文件中通过修改端口启动2次,模拟双实例应用,为调用方负载做准备。

web/EurekaClientController.java | 注意@EnableEurekaClient用于向注册中心提供服务

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@EnableEurekaClient
 7@RestController
 8public class EurekaClientController {
 9
10    @Value("${server.port}")
11    private int port;
12
13    @RequestMapping(path = "/api/queryUserInfo", method = RequestMethod.GET)
14    public String queryUserInfo(@RequestParam String userId) {
15        return "Hi 微信公众号:bugstack虫洞栈 | " + userId + " >: from eureka client port: " + port;
16    }
17
18}

EurekaClientApplication.java | 服务启动类

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@SpringBootApplication
 7public class EurekaClientApplication {
 8
 9    public static void main(String[] args) {
10        SpringApplication.run(EurekaClientApplication.class, args);
11    }
12
13}

application.yml | 配置文件链接服务注册中心,8001\8002分别配置启动

1server:
 2  port: 8001 / 8002
 3
 4spring:
 5  application:
 6    name: itstack-demo-springcloud-eureka-client
 7
 8eureka:
 9  client:
10    serviceUrl:
11      defaultZone: http://localhost:7397/eureka/

itstack-demo-springcloud-eureka-server | 单个服务注册中心

服务注册中心用于承载接口提供方向上注册,同时正在调用方链接后可以获取指定应用的服务实例。

EurekaServerApplication.java | 通过注解@EnableEurekaServer启动服务注册与发现中心

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@SpringBootApplication
 7@EnableEurekaServer
 8public class EurekaServerApplication {
 9
10    public static void main(String[] args) {
11        SpringApplication.run( EurekaServerApplication.class, args );
12    }
13
14}

application.yml | 服务注册中心配置文件,端口7397和我们之前写netty的服务的端口一致

1server:
 2  port: 7397
 3
 4eureka:
 5  instance:
 6    hostname: localhost
 7  client:
 8    registerWithEureka: false
 9    fetchRegistry: false
10    serviceUrl:
11      defaultZone: http://${eureka.instance.hostname}:${server.port}/eureka/
12
13spring:
14  application:
15    name: itstack-demo-springcloud-eureka-server

itstack-demo-springcloud-feign | Feign服务调用方,添加熔断Hystrix

Feign 是一个声明式的 Web Service 客户端,它的目的就是让 Web Service 调用更加简单。它整合了 Ribbon 和 Hystrix,从而让我们不再需要显式地使用这两个组件。Feign 还提供了 HTTP 请求的模板,通过编写简单的接口和插入注解,我们就可以定义好 HTTP 请求的参数、格式、地址等信息。接下来,Feign 会完全代理 HTTP 的请求,我们只需要像调用方法一样调用它就可以完成服务请求。

Feign 具有如下特性:

可插拔的注解支持,包括 Feign 注解和 JAX-RS 注解

支持可插拔的 HTTP 编码器和解码器

支持 Hystrix 和它的 Fallback

支持 Ribbon 的负载均衡

支持 HTTP 请求和响应的压缩

service/FeignService.java | 注解方式调用,方便易用。@FeignClient会在调用时进行解析服务到具体的http://ip:port/

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@FeignClient(value = "itstack-demo-springcloud-eureka-client")
 7public interface FeignService {
 8
 9    @RequestMapping(value = "/api/queryUserInfo", method = RequestMethod.GET)
10    String queryUserInfo(@RequestParam String userId);
11
12}

service/hystrix/FeignServiceHystrix.java | 提供熔断服务,当发生异常时主动返回预定结果

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@Component
 7public class FeignServiceHystrix implements FeignService {
 8
 9    @Override
10    public String queryUserInfo(String userId) {
11        return "queryUserInfo by userId:" + userId + " err!from feign hystrix";
12    }
13
14}

web/FeignController.java | 使用接口提供服务 From Feign

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@RestController
 7public class FeignController {
 8
 9    @Resource
10    private FeignService ribbonService;
11
12    @RequestMapping(path = "/api/queryUserInfo", method = RequestMethod.GET)
13    public String queryUserInfo(@RequestParam String userId) {
14        return ribbonService.queryUserInfo(userId) + " From Feign";
15    }
16
17}

FeignApplication.java | 注解@EnableEurekaClient、@EnableFeignClients、@EnableDiscoveryClient获取调用注册中心服务

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@SpringBootApplication
 7@EnableEurekaClient
 8@EnableDiscoveryClient
 9@EnableFeignClients
10public class FeignApplication {
11
12    public static void main(String[] args) {
13        SpringApplication.run(FeignApplication.class, args);
14    }
15
16}

application.yml | eureka服务配置,从注册中心获取可用服务。开启hystrix=true

1server:
 2  port: 9001
 3
 4spring:
 5  application:
 6    name: itstack-demo-springcloud-feign
 7
 8eureka:
 9  client:
10    serviceUrl:
11      defaultZone: http://localhost:7397/eureka/
12
13feign.hystrix.enabled: true

itstack-demo-springcloud-ribbon | Ribbon服务调用方

Ribbon是一个基于 HTTP 和 TCP 的客户端负载均衡器。它可以通过在客户端中配置 ribbonServerList 来设置服务端列表去轮询访问以达到均衡负载的作用。

当 Ribbon 与 Eureka 联合使用时,ribbonServerList 会被 DiscoveryEnabledNIWSServerList 重写,扩展成从 Eureka 注册中心中获取服务实例列表。同时它也会用 NIWSDiscoveryPing 来取代 IPing,它将职责委托给 Eureka 来确定服务端是否已经启动。

service/RibbonService.java | 接口式硬编码调用不太易于维护,因此也是比较少用的方式。hystrix实际通过getFallback()返回熔断结果

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@Service
 7public class RibbonService {
 8
 9    @Autowired
10    private RestTemplate restTemplate;
11
12    @HystrixCommand(fallbackMethod = "queryUserInfoFallback")
13    public String queryUserInfo(String userId) {
14        return restTemplate.getForObject("http://ITSTACK-DEMO-SPRINGCLOUD-EUREKA-CLIENT/api/queryUserInfo?userId=" + userId, String.class);
15    }
16
17    /**
18     * Specifies a method to process fallback logic.
19     * A fallback method should be defined in the same class where is HystrixCommand.
20     * Also a fallback method should have same signature to a method which was invoked as hystrix command.
21     * for example:
22     * <code>
23     *      @HystrixCommand(fallbackMethod = "getByIdFallback")
24     *      public String getById(String id) {...}
25     *
26     *      private String getByIdFallback(String id) {...}
27     * </code>
28     * Also a fallback method can be annotated with {@link HystrixCommand}
29     * <p/>
30     * default => see {@link com.netflix.hystrix.contrib.javanica.command.GenericCommand#getFallback()}
31     *
32     * @return method name
33     *
34     * getFallback()
35     * 
36     * @Override
37     * protected Object getFallback() {
38     *     final CommandAction commandAction = getFallbackAction();
39     *     if (commandAction != null) {
40     *         try {
41     *             return process(new Action() {
42     *                 @Override
43     *                 Object execute() {
44     *                     MetaHolder metaHolder = commandAction.getMetaHolder();
45     *                     Object[] args = createArgsForFallback(metaHolder, getExecutionException());
46     *                     return commandAction.executeWithArgs(metaHolder.getFallbackExecutionType(), args);
47     *                 }
48     *             });
49     *         } catch (Throwable e) {
50     *             LOGGER.error(FallbackErrorMessageBuilder.create()
51     *                     .append(commandAction, e).build());
52     *             throw new FallbackInvocationException(unwrapCause(e));
53     *         }
54     *     } else {
55     *         return super.getFallback();
56     *     }
57     * }
58     */
59    public String queryUserInfoFallback(String userId) {
60        return "queryUserInfo by userId:" + userId + " err!from ribbon hystrix";
61    }
62
63}

web/RibbonController.java | 使用接口提供服务 From Ribbon

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@RestController
 7public class RibbonController {
 8
 9    @Resource
10    private RibbonService ribbonService;
11
12    @RequestMapping(path = "/api/queryUserInfo", method = RequestMethod.GET)
13    public String queryUserInfo(@RequestParam String userId) {
14        return ribbonService.queryUserInfo(userId) + " From Ribbon";
15    }
16
17}

RibbonApplication.java | 通过注解@LoadBalanced注册rest模版,用于Ribbon接口调用。并启动@EnableHystrix

1/**
 2 * 微信公众号:bugstack虫洞栈 | 沉淀、分享、成长,专注于原创专题案例
 3 * 论坛:http://bugstack.cn
 4 * Create by 付政委 on @2019
 5 */
 6@SpringBootApplication
 7@EnableEurekaClient
 8@EnableDiscoveryClient
 9@EnableHystrix
10public class RibbonApplication {
11
12    public static void main(String[] args) {
13        SpringApplication.run(RibbonApplication.class, args);
14    }
15
16    @Bean
17    @LoadBalanced
18    RestTemplate restTemplate() {
19        return new RestTemplate();
20    }
21
22}

application.yml | eureka服务配置,从注册中心获取可用服务

1server:
 2  port: 9002
 3
 4spring:
 5  application:
 6    name: itstack-demo-springcloud-ribbon
 7
 8eureka:
 9  client:
10    serviceUrl:
11      defaultZone: http://localhost:7397/eureka/

测试验证

1、启动服务注册中心itstack-demo-springcloud-eureka-server

2、本地测试不启动eureka-client,以达到服务不可以用的效果

3、启动itstack-demo-springcloud-feign

4、启动itstack-demo-springcloud-ribbon

5、访问Feign服务调用方,在熔断的保护下会返回预定熔断结果:http://localhost:9001/api/queryUserInfo?userId=1024

1queryUserInfo by userId:1024 err!from feign hystrix From Feign
2queryUserInfo by userId:1024 err!from feign hystrix From Feign

6、访问Ribbon服务调用方,在熔断的保护下会返回预定熔断结果:http://localhost:9002/api/queryUserInfo?userId=1024

1queryUserInfo by userId:1024 err!from ribbon hystrix From Ribbon
2queryUserInfo by userId:1024 err!from ribbon hystrix From Ribbon

综上总结

1、Spring Cloud 将Hystrix整合后提供非常简单的使用方式,并且提供了丰富的配置可以满足实际应用开发

2、Hystrix Git开源代码;https://github.com/Netflix/Hystrix

3、在熔断降级就像是电闸的保险丝,可以在非常重要的时刻快速失败保护系统

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
目录
相关文章
|
3月前
|
Java UED 开发者
Spring Boot 降级功能的神秘面纱:Hystrix 与 Resilience4j 究竟藏着怎样的秘密?
【8月更文挑战第29天】在分布式系统中,服务稳定性至关重要。为应对故障,Spring Boot 提供了 Hystrix 和 Resilience4j 两种降级工具。Hystrix 作为 Netflix 的容错框架,通过隔离依赖、控制并发及降级机制增强系统稳定性;Resilience4j 则是一个轻量级库,提供丰富的降级策略。两者均可有效提升系统可靠性,具体选择取决于需求与场景。在面对服务故障时,合理运用这些工具能确保系统基本功能正常运作,优化用户体验。以上简介包括了两个工具的简单示例代码,帮助开发者更好地理解和应用。
59 0
|
2月前
|
存储 NoSQL 调度
|
2月前
|
XML 监控 Java
Spring Cloud全解析:熔断之Hystrix简介
Hystrix 是由 Netflix 开源的延迟和容错库,用于提高分布式系统的弹性。它通过断路器模式、资源隔离、服务降级及限流等机制防止服务雪崩。Hystrix 基于命令模式,通过 `HystrixCommand` 封装对外部依赖的调用逻辑。断路器能在依赖服务故障时快速返回备选响应,避免长时间等待。此外,Hystrix 还提供了监控功能,能够实时监控运行指标和配置变化。依赖管理方面,可通过 `@EnableHystrix` 启用 Hystrix 支持,并配置全局或局部的降级策略。结合 Feign 可实现客户端的服务降级。
149 23
|
2月前
|
Java 对象存储 开发者
故障隔离与容错处理:Hystrix在Spring Cloud和Netflix OSS中的应用
故障隔离与容错处理:Hystrix在Spring Cloud和Netflix OSS中的应用
51 3
|
3月前
|
缓存 监控 负载均衡
一文讲明Hystrix熔断器
这篇文章详细阐述了Hystrix熔断器的原理和应用,解释了分布式系统中服务雪崩的问题,并展示了如何在Spring Cloud框架中使用Hystrix进行熔断和降级处理。
一文讲明Hystrix熔断器
|
4月前
|
资源调度 Java 调度
Spring Cloud Alibaba 集成分布式定时任务调度功能
Spring Cloud Alibaba 发布了 Scheduling 任务调度模块 [#3732]提供了一套开源、轻量级、高可用的定时任务解决方案,帮助您快速开发微服务体系下的分布式定时任务。
14853 28
|
4月前
|
负载均衡 Java Spring
Spring cloud gateway 如何在路由时进行负载均衡
Spring cloud gateway 如何在路由时进行负载均衡
470 15
|
4月前
|
Java Spring
spring cloud gateway在使用 zookeeper 注册中心时,配置https 进行服务转发
spring cloud gateway在使用 zookeeper 注册中心时,配置https 进行服务转发
104 3
|
4月前
|
消息中间件 Java Nacos
通用快照方案问题之通过Spring Cloud实现配置的自动更新如何解决
通用快照方案问题之通过Spring Cloud实现配置的自动更新如何解决
74 0