Hystrix-阿里云开发者社区

开发者社区> 李子捌> 正文

Hystrix

简介: 在微服务中,服务与服务之间的调用经常出现两个不确定性因素: 1. 网络延迟 2. 服务异常
+关注继续查看

1、简介

在微服务中,服务与服务之间的调用经常出现两个不确定性因素:

  1. 网络延迟
  2. 服务异常

延迟在微服务中是一个非常重要的性能指标,随着服务的增加,调用链越来越复杂,此时低延迟往往是微服务系统架构中首要目标;高网络延迟可能会拖垮整个微服务,这是不允出现的。此外服务内部可能会发生未知异常,或者未捕获的异常,这时异常如果没有得到正确的处理,将会沿着调用链往上抛出,这对上传调用链来说也是致命的,因为往往这个时候上层调用方它不知道该如何处理未知异常。

对于服务异常,我们应该在系统架构时满足维加斯规则(Vegas Rule):在微服务中发生的事情,就留在该微服务中。通俗点说,微服务中发生的异常要自己处理,不应该给其他微服务返回非约定交互报文之外的任何信息。

对于网络延迟,这是无法避免的,CAP理论中也谈到过分布式架构中网络分区无法避免,用于可能发生;因此我们只能在可能发生网络延迟的地方,做超时设置、超时后的副本处理等操作。

Hystrix用于解决上面两个问题。(注意,它并不能让错误不发生或者让网络延迟不发生,它只是提供了后备行为和自校正功能,可以用于优雅的处理错误和网络延迟。)Hystrix的工作原理很简单,被保护的方法可以设定失败阈值,在给定的失败阈值内方法发生失败(异常/延迟),通过调用一个预先准备的后备方法来返回预先准备的数据报文(本质上仍然是通过切面实现)。Hystrix有三种状态,分别是关闭状态、打开状态、半开状态。

  1. 关闭状态(closed),Hystrix默认为关闭状态
  2. 打开状态(open),超过设定的失败阈值后,熔断机制打开,Hystrix进入打开状态,此时所有请求直接请求提供熔断方法,不再请求正常服务
  3. 半开状态(half open),Hystrix进入打开状态之后,超过circuitBreaker.sleepWindowInMilliseconds时间周期,Hystrix进入半打开状态,此时尝试调用正常服务,如果服务调用失败会重置为失败状态

image


2、正文

2.1 Hystrix使用场景

Hystrix多用于有网络延时的场景,因此其使用场景也是那些容易出现网络延迟的方法,比如说:

  1. 远程服务调用,rest请求
  2. 数据库访问
  3. 复杂且耗时的计算场景

2.2 Hystrix处理异常

Hystrix用于微服中,因此使用Hystrix之前,需要准备一个简单的微服务环境,指定Spring Cloud版本和Spring Boot版本,此外引入web依赖用于模拟微服务间调用。

<parent>

  <groupId>org.springframework.boot</groupId>

  <artifactId>spring-boot-starter-parent</artifactId>

  <version>2.3.4.RELEASE</version>

</parent>


<dependencies>

  <dependency>

    <groupId>org.springframework.boot</groupId>

    <artifactId>spring-boot-starter-web</artifactId>

  </dependency>

</dependencies>


<dependencyManagement>

  <dependencies>

    <dependency>

      <groupId>org.springframework.cloud</groupId>

      <artifactId>spring-cloud-dependencies</artifactId>

      <version>Hoxton.RELEASE</version>

      <type>pom</type>

      <scope>import</scope>

    </dependency>

  </dependencies>

</dependencyManagement>

Hystrix依赖导入

<dependencies>

  <dependency>

    <groupId>org.springframework.cloud</groupId>

    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>

  </dependency>

</dependencies>

配置服务启动端口

server:

  port: 18888

启动类增加@EnableHystrix注解

@SpringBootApplication

@EnableHystrix

public class ServiceApplication {


    public static void main(String[] args) {

        SpringApplication.run(ServiceApplication.class, args);

    }


}


方法一:

编写使用Hystrix保护的方法,这里使用@HystrixCommand注解注释需要受Hystrix保护的方法,并且指定fallbackMethod属性的值为fallback,fallback是一个提前预置的方法,该方法与受保护的方法返回值一致,用于服务断路器打开时备用。我在demo方法中,直接抛出了一个RuntimeException,模拟服务调用失败。

@RestController

@RequestMapping("/fallback")

public class FallbackMethodController {


    @GetMapping

    @HystrixCommand(fallbackMethod = "fallback")

    public ResponseEntity<String> demo() {

        // 模拟服务异常

       throw new RuntimeException("Error.");

    }

    

    private ResponseEntity<String> fallback() {

        return new ResponseEntity<>("Hello World!", HttpStatus.OK);

    }


}

对该rest接口发起请求,此时无论请求多少次都会得到Hello World!返回值。

image


方法二:

除了上面这种直接在方法指定后备方法之外,还可以采用另外一种方法,直接在Controller类上定义默认的后备方法,这样整个Controller需要受保护的方法,无需每个都明确指定后备方法了。(区别:@HystrixCommand无需再指定fallbackMethod)

@RestController

@RequestMapping("/defaultFallback")

// 整体定义后备方法

@DefaultProperties(defaultFallback = "defaultFallback")

public class DefaultFallbackMethodController {


    @GetMapping

    @HystrixCommand

    public ResponseEntity<String> demo() {

        throw new RuntimeException("Error.");

    }


    public ResponseEntity<String> defaultFallback() {

        return new ResponseEntity<>("Hello World.", HttpStatus.OK);

    }

}

image

2.3 Hystrix处理超时

Hystrix除了能优雅的处理未知异常之外,其另外一个能力就是方法执行延迟的处理, @HystrixCommand注解默认情况下设置了1秒的超时时间,如果1秒内方法未返回,将会执行预置的后备方法。1秒的超时时间不一定满足所有的业务场景,或者有些方法它就是硬不要设置超时时间,关于这些需求Hystrix都提供了相应的配置项。

@HystrixCommand注解中提供了commandProperties属性,它是一个HystrixProperty数组,因此@HystrixProperty可以定义多个;其中name指定要配置的项,value指定对应配置项的值。

@RestController

@RequestMapping("/timeout")

public class TimeoutController {


    @GetMapping

    @HystrixCommand(

            fallbackMethod = "fallback",

            commandProperties = {

                    @HystrixProperty(

                            name = "execution.isolation.thread.timeoutInMilliseconds",

                            value = "2000"

                    )

            })

    public ResponseEntity<String> demo() {

        try {

            // 模拟接口请求,时间设置为3秒

            TimeUnit.SECONDS.sleep(3);

        } catch (InterruptedException e) {

            e.printStackTrace();

        }

        return new ResponseEntity<>("Hello!", HttpStatus.OK);

    }



    private ResponseEntity<String> fallback() {

        return new ResponseEntity<>("Timeout!", HttpStatus.OK);

    }


}

接口并未返回Hello!,而是返回了后备方法的返回值Timeout!,这是因为我们设值的超时时间是2秒,而 TimeUnit.SECONDS.sleep(3)睡眠了3秒,导致熔断器打开,返回了后备方法。

image


Hystrix的方法超时时间也可以关闭,@HystrixProperty提供了关闭的开关如下所示:

@RestController

@RequestMapping("/closeTimeout")

public class TimeoutDisableController {



    @GetMapping

    @HystrixCommand(

            fallbackMethod = "fallback",

            commandProperties = {

                    @HystrixProperty(

                            name = "execution.timeout.enabled",

                            value = "false"

                    )

            })

    public ResponseEntity<String> demo() {

        try {

            // 模拟接口请求

            TimeUnit.SECONDS.sleep(3);

        } catch (InterruptedException e) {

            e.printStackTrace();

        }

        return new ResponseEntity<>("Hello!", HttpStatus.OK);

    }



    private ResponseEntity<String> fallback() {

        return new ResponseEntity<>("Timeout!", HttpStatus.OK);

    }

    

}

此时/closeTimeout接口无论多久多不会触发超时保护(理论上不会这样玩儿!)

image


2.4 Hystrix断路器阈值设置

上面有说到Hystrix断路器的三个状态,在默认情况下,Hystrix保护的方法,在10秒内,请求次数超过了20次,50%以上的请求发生失败, 断路器将会进入打开状态,5秒后断路器进入半开状态,尝试重新调用原始的方法,如果调用失败,断路器直接变为打开状态。

Hystrix断路器阈值,默认配置:
在给定的时间范围内,方法应该被调用的次数

circuitBreaker.requestVolumeThreshold = 20

在给定时间范围内,方法调用产生失败的百分比

circuitBreaker.errorThresholdPercentage = 50%

请求量和错误百分比的滚动时间周期

metrics.rollingStats.timeInMilliseconds = 10000

处于打开状态的断路器,要经过多长时间才会进入半开状态,进入半开状态之后,将会再次尝试原始方法

circuitBreaker.sleepWindowInMilliseconds = 5000


如下将默认断路器阈值进行修改,修改后60秒内,请求次数超过4次,50%以上的请求失败,断路器就会进入打开状态,并且60秒后断路器才会进入半开状态,尝试调用原始方法。我这里设置成这样是为了方便测试。

@RestController

@RequestMapping("/circuitBreaker")

public class CircuitBreakConfigController {



    @GetMapping

    @HystrixCommand(

            fallbackMethod = "fallback",

            commandProperties = {

                    @HystrixProperty(

                            name = "execution.isolation.thread.timeoutInMilliseconds",

                            value = "1000"

                    ),

                    @HystrixProperty(

                            name = "circuitBreaker.requestVolumeThreshold",

                            value = "4"

                    ),

                    @HystrixProperty(

                            name = "circuitBreaker.errorThresholdPercentage",

                            value = "50"

                    ),

                    @HystrixProperty(

                            name = "metrics.rollingStats.timeInMilliseconds",

                            value = "60000"

                    ),

                    @HystrixProperty(

                            name = "circuitBreaker.sleepWindowInMilliseconds",

                            value = "60000"

                    )

            })

    public ResponseEntity<String> demo() {

        try {

            // 模拟接口请求

            TimeUnit.SECONDS.sleep(2);

        } catch (InterruptedException e) {

            e.printStackTrace();

        }

        return new ResponseEntity<>("Hello!", HttpStatus.OK);

    }



    private ResponseEntity<String> fallback() {

        return new ResponseEntity<>("Timeout!", HttpStatus.OK);

    }



}

将超时时间设置为1秒,方法中执行TimeUnit.SECONDS.sleep(2);使得线程阻塞2秒,显然每次调用都会失败,因此在第四之后(60s内)的请求,都会直接执行后备方法。

image


2.5 Hystrix与Fegin集成

很多时候我们会使用Open Fegin来向服务端请求数据,这个时候我们可以使用Hystrix来包含Fegin Client,集成方式也十分简单。

OpenFeign中已经集成了Hystrix,因此不需要再单独导入Hystrix的依赖

<!--openfeign 中已经依赖了Hystrix-->

<dependency>

    <groupId>org.springframework.cloud</groupId>

    <artifactId>spring-cloud-starter-openfeign</artifactId>

</dependency>

启动类中添加@EnableFeignClients注解,该注解默认支持Hystrix

@SpringBootApplication

@EnableFeignClients // 支持Hystrix

public class ConsumerApplication {


    public static void main(String[] args) {

        SpringApplication.run(ConsumerApplication.class, args);

    }


}

开启Feign对Hystix的支持,此外由于Feign集成的Ribbon,Ribbon也有默认的请求超时时间,因此我们要想正确的使用Hystrix带来的熔断保护,就应该将Ribbon的超时时间设定的比Hystrix的超时时间大。(两者默认超时时间都是1秒)

server:

  port: 19999


# 开启feign对hystrix的支持

feign:

  hystrix:

    enabled: true

  client:

    config:

      default:

        readTimeout: 3000

        connectTimeout: 3000

定义一个Feign Client,并指定fallback类,该类需要实现Feign Client才能提供熔断服务。注意,Feign Client的实现类需要添加到容器中。

@FeignClient(value = "service", url = "http://localhost:18888/fallback", fallback = ServerClientFallback.class)

public interface ServerClient {


    @GetMapping

    ResponseEntity<String> demo();


}


@Component

class ServerClientFallback implements ServerClient {


    @Override

    public ResponseEntity<String> demo() {

        return new ResponseEntity<>("Client FallBack!", HttpStatus.OK);

    }

}

定义一个测试controller,我们不启动1888服务,模拟服务端不可用的情况!

@RestController

@RequestMapping("/feign")

public class FeignController {


    @Autowired

    private ServerClient serverClient;


    @GetMapping

    public ResponseEntity<String> demo() {

        return serverClient.demo();

    }

}

此时触发服务降级,直接返回Client FallBack!

image

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
PO,VO,DAO,BO,POJO 之间的区别你懂吗?
value object:值对象。 通常用于业务层之间的数据传递,由new创建,由GC回收。
5 0
排名前 16 的 Java 工具类,哪个你没用过?
在Java中,实用程序类是定义一组执行通用功能的方法的类。 这篇文章展示了最常用的Java实用工具类及其最常用的方法。类列表及其方法列表均按受欢迎程度排序。数据基于从GitHub随机选择的50,000个开源Java项目。 希望您可以通过浏览列表来了解
8 0
方法的定义与使用(方法递归调用)|学习笔记
快速学习 方法的定义与使用(方法递归调用)
11 0
方法的定义与使用(方法重载)|学习笔记
快速学习 方法的定义与使用(方法重载)
8 0
10S
冬季实战营第一期:从零到一上手玩转云服务器的学习报告
训练营日期:2022年1月17日 - 2022年1月23日,通过前五日从零学习云服务器,还能领取限量版盲盒等奖品
7 0
解决Java- 错误: 找不到或无法加载主类 HelloWorld.java
针对初学者使用javac,java等命令编译class文件时出现的经典问题,提供解决思路和方法。
14 0
冬季实战营第一期:从零到一上手玩转云服务器学习报告
1月17-21日,我参加冬季实战营第一期:从零到一上手玩转云服务器学习,从创建一台ECS实例开始,学习了ECS云服务器新手上路、搭建LAMP环境(Linux、Apache、MySQL和PHP)、通过ECS服务器部署MySQL数据库等,掌握了ECS实例、部署应用等知识。
11 0
ECS服务器部署MySQL数据库学习笔记
通过冬季实战营第一期学习在ECS服务器部署MySQL数据库。
11 0
“冬季实战营第一期”之从零到一上手玩转云服务器——学习报告
动手实战、专家带练。由浅及深,逐渐提升动手实操能力。
21 0
+关注
李子捌
简介: CSDN优秀作者、华为云专家 领域: Java框架、并发编程、分布式、微服务、Redis、HarmonyOS、中间件等技术
240
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
《2021云上架构与运维峰会演讲合集》
立即下载
《零基础CSS入门教程》
立即下载
《零基础HTML入门教程》
立即下载