Spring Cloud【Finchley】-08使用Hystrix实现容错

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介: Spring Cloud【Finchley】-08使用Hystrix实现容错

20190806093230928.jpg


概述


前面的几篇博文,我们接触到了Eureka实现服务的注册于发现Ribbon实现客户端负载均衡Feign实现声明式的API调用,谈到微服务,容错也是不得不提的话题之一。

Soring Cloud 集成了Hystrix来提供容错的能力,从而实现微服务的容错。


实现容错主要方式


假设服务提供者的响应很慢,那么消费者的请求将会被强制等待,直到响应或者超时。 在高负载的情况下,很有可能发生的情况是,当依赖的服务不可用,自身的服务也被拖垮,这就是雪崩效应,当服务提供者不可用导致消费者不可用,并将不可用逐渐放大的过程。


容错的主要手段:


为网络请求设置超时: 通常情况下一次远程调用对应一个线程,如果响应太慢,这个线程就得不到释放,而线程占用的资源当然也不会被释放,当高并发或者未处理完的线程越来越多,资源终将被耗尽。


使用断路器模式:如果有对某个微服务的请求存在大量超时,禁止访问该微服务,防止雪崩。 当该微服务可用,断路器可以自动诊断是否已经恢复,恢复访问请求,从而实现微服务的自我修复


从而提升应用的高可用性。


Hystrix简介


https://github.com/netflix/hystrix


Hystrix是一个实现了超时机制和断路器模式的工具类库, 是由Netfix开源的一个延迟和容错库,用于隔离访问远程系统、服务或者第三方库,防止级联失败,从而提升系统可用性与容错性。


机制:


当Hystrix Command请求后端服务失败数量超过一定比例(默认50%), 断路器会切换到开路状态(Open).这时所有请求会直接失败而不会发送到后端服务.


断路器保持在开路状态一段时间后(默认5秒), 自动切换到半开路状态(HALF-OPEN). 这时会判断下一次请求的返回情况, 如果请求成功, 断路器切回闭路状态(CLOSED), 否则重新切换到开路状态(OPEN).


Hystrix的断路器就像我们家庭电路中的保险丝, 一旦后端服务不可用, 断路器会直接切断请求链, 避免发送大量无效请求影响系统吞吐量,并且断路器有自我检测并恢复的能力.


20181216190048832.png

Hystrix主要通过以下几点实现延迟和容错:


包裹请求:使用HystrixCommand / HystrixObservableCommand包裹对依赖的调用逻辑,每个命令在独立线程中执行。

跳闸机制:当某服务的错误率超过一定阀值时,Hystrix可以自动或者手动跳闸,停止请求该服务一段时间。

资源隔离:Hystrix为每个依赖都维护了一个小型的线程池(或者信号量)。如果该线程池已满,发往该依赖的请求就被立即拒绝,而不是排队等候,从而加速失败判断

监控:Hystrix可以近乎实时地监控运行指标和配置的变化,例如成功、失败、超时、以及被拒绝的请求等。

回退机制:相当于服务降级,当请求失败、超时、被拒绝,或当断路器打开时,执行回退逻辑。回退逻辑可由开发人员自行提供,例如返回一个缺省值。

自我修复:断路器打开一段时间后,会自动进入“半开”状态。


通用方式整合Hystrix


Spring Cloud官方指导:https://cloud.spring.io/spring-cloud-static/Finchley.SR2/single/spring-cloud.html#_circuit_breaker_hystrix_clients

20181216193553615.png20181216193610109.png


Step1 新建子module


因为熔断是发生在调用方即消费者,所以我们copy个消费者的工程


父工程microservice-spring-cloud右键新建Maven Module 命名为:micorservice-consumer-movie-ribbon-hystrix ,为了简单我们把micorservice-consumer-movie-ribbon的内容copy到该子模块,修改下application.yml中的spring.application.name即可。


Step2 pom增加spring-cloud-starter-netflix-hystrix依赖


<dependency>
      <groupId>org.springframework.cloud</groupId>
      <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>


Step3 启动类增加@EnableCircuitBreaker或者@EnableHystrix注解

package com.artisan.micorservice;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;
@SpringBootApplication
@EnableCircuitBreaker
public class MicorserviceMovieRibbonHystrix {
  @Bean
  @LoadBalanced
  public RestTemplate restTemplate(){
    return new RestTemplate();
  }
  public static void main(String[] args) {
    SpringApplication.run(MicorserviceMovieRibbonHystrix.class, args);
  }
}


Step4 控制层增加注解即容错方法

package com.artisan.micorservice.controller;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.loadbalancer.LoadBalancerClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import com.artisan.micorservice.model.User;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import lombok.extern.slf4j.Slf4j;
@RestController
public class MovieController {
  @Autowired
  private RestTemplate restTemplate;
  @Autowired
  LoadBalancerClient loadBalancerClient;
  @HystrixCommand(fallbackMethod = "findByIdDefault")
  @GetMapping("/movie/{id}")
  public User findById(@PathVariable Long id) {
    return this.restTemplate.getForObject("http://microservice-provider-user/user/" + id, User.class);
  }
  /**
   * 
   * @param id
   * @return
   * @desc 当请求失败、超时、被拒绝,或当断路器打开时,执行的逻辑
   */
  public User findByIdDefault(Long id) {
    User user = new User();
    user.setId(id);
    user.setUsername("默认用户");
   return user;
  }
}


从上述Controller层的方法中,可以看到我们在findById方法上增加了注解 @HystrixCommand(fallbackMethod = “findByIdDefault”),并通过fallbackMethod 属性指定了当请求失败、超时、被拒绝,或当断路器打开时,执行的方法findByIdDefault.


20181216194521133.png

HystrixCommand注解还可以使用注解HystrixProperty的commandProperties属性来配置HystrixCommand

比如

 @HystrixCommand(fallbackMethod = "findByIdDefault",commandProperties= {
      @HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds",value="5000"),
      @HystrixProperty(name="metrics.rollingStats.timeInMilliseconds",value="10000")
  },threadPoolProperties= {
      @HystrixProperty(name="coreSize",value="1"),
      @HystrixProperty(name="maxQueueSize",value="10")
  })
  @GetMapping("/movie/{id}")
  public User findById(@PathVariable Long id) {
    return this.restTemplate.getForObject("http://microservice-provider-user/user/" + id, User.class);
  }


可配置的属性见官网: https://github.com/Netflix/Hystrix/tree/master/hystrix-contrib/hystrix-javanica#configuration


Step5 测试


启动microservice-discovery-eureka,注册中心

启动micorservice-provider-user,服务提供者

启动micorservice-consumer-movie-ribbon-hystrix,服务消费者,整合了Hystrix

访问http://localhost:8761/ 确认下服务已经注册成功。


20181216200130352.png


访问: http://localhost:7902/movie/2 ,返回

{"id":2,"username":"artisan2","name":"小工匠二","age":20,"balance":200.00}


停止 micorservice-provider-user,服务提供者 ,注册中心上已经没有该服务了。


20181216200315697.png


访问http://localhost:7902/movie/2 ,可访问多次,均返回

{"id":2,"username":"默认用户","name":null,"age":null,"balance":null}


已经走到了我们自定义的方法中。

再次启动 micorservice-provider-user,服务提供者


20181216200448647.png

访问http://localhost:7902/movie/2

{"id":2,"username":"artisan2","name":"小工匠二","age":20,"balance":200.00}


服务已经恢复。

当请求失败、被拒绝、超时或者断路器打开时都会进入到回退的方法,当进入回退方法并不意味着断路器已经被打开。


代码


https://github.com/yangshangwei/SpringCloudMaster/tree/master/micorservice-consumer-movie-ribbon-hystrix

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
3月前
|
Java UED 开发者
Spring Boot 降级功能的神秘面纱:Hystrix 与 Resilience4j 究竟藏着怎样的秘密?
【8月更文挑战第29天】在分布式系统中,服务稳定性至关重要。为应对故障,Spring Boot 提供了 Hystrix 和 Resilience4j 两种降级工具。Hystrix 作为 Netflix 的容错框架,通过隔离依赖、控制并发及降级机制增强系统稳定性;Resilience4j 则是一个轻量级库,提供丰富的降级策略。两者均可有效提升系统可靠性,具体选择取决于需求与场景。在面对服务故障时,合理运用这些工具能确保系统基本功能正常运作,优化用户体验。以上简介包括了两个工具的简单示例代码,帮助开发者更好地理解和应用。
77 0
|
2月前
|
XML 监控 Java
Spring Cloud全解析:熔断之Hystrix简介
Hystrix 是由 Netflix 开源的延迟和容错库,用于提高分布式系统的弹性。它通过断路器模式、资源隔离、服务降级及限流等机制防止服务雪崩。Hystrix 基于命令模式,通过 `HystrixCommand` 封装对外部依赖的调用逻辑。断路器能在依赖服务故障时快速返回备选响应,避免长时间等待。此外,Hystrix 还提供了监控功能,能够实时监控运行指标和配置变化。依赖管理方面,可通过 `@EnableHystrix` 启用 Hystrix 支持,并配置全局或局部的降级策略。结合 Feign 可实现客户端的服务降级。
166 23
|
2月前
|
Java 对象存储 开发者
故障隔离与容错处理:Hystrix在Spring Cloud和Netflix OSS中的应用
故障隔离与容错处理:Hystrix在Spring Cloud和Netflix OSS中的应用
53 3
|
4月前
|
负载均衡 Java Spring
Spring cloud gateway 如何在路由时进行负载均衡
Spring cloud gateway 如何在路由时进行负载均衡
499 15
|
4月前
|
Java Spring
spring cloud gateway在使用 zookeeper 注册中心时,配置https 进行服务转发
spring cloud gateway在使用 zookeeper 注册中心时,配置https 进行服务转发
111 3
|
4月前
|
消息中间件 Java Nacos
通用快照方案问题之通过Spring Cloud实现配置的自动更新如何解决
通用快照方案问题之通过Spring Cloud实现配置的自动更新如何解决
77 0
|
4月前
|
缓存 监控 Java
通用快照方案问题之Spring Boot Admin的定义如何解决
通用快照方案问题之Spring Boot Admin的定义如何解决
63 0
|
4月前
|
监控 NoSQL Java
通用快照方案问题之Martin Flower提出的微服务之间的通信如何解决
通用快照方案问题之Martin Flower提出的微服务之间的通信如何解决
43 0
|
5月前
springCloud之服务降级熔断Hystrix、OpenFeign
springCloud之服务降级熔断Hystrix、OpenFeign
332 0
|
6月前
|
监控 Java API
Spring cloud Hystrix 、Dashboard、API(zuul)相关报错
Spring cloud Hystrix 、Dashboard、API(zuul)相关报错
64 2