Spring Cloud微服务体系的组成(二)

本文涉及的产品
注册配置 MSE Nacos/ZooKeeper,118元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
云原生网关 MSE Higress,422元/月
简介: Spring Cloud微服务体系的组成(二)

三、熔断机制与Hystrix



雪崩效应:服务雪崩效应产生与服务堆积在同一个线程池中,因为所有的请求都是同一个线程池进行处理,这时候如果在高并发情况下,所有的请求全部访问同一个接口,这时候可能会导致其他服务没有线程进行接受请求,这就是服务雪崩效应效应。


服务熔断:熔断机制目的为了保护服务,在高并发的情况下,如果请求达到一定极限(可以自己设置阔值)如果流量超出了设置阈值,让后直接拒绝访问,保护当前服务。使用服务降级方式返回一个友好提示,服务熔断和服务降级一起使用。


1、Hystrix介绍与工作原理


1.Hystrix熔断器


Hystrix(豪猪)是Netflix开源的熔断器组件,用于为微服务提供熔断机制预防雪崩,保护整体微服务架构的健康


2.Hystrix功能


预防微服务由于故障,请求长时间等待导致Web容器线程崩溃

提供故障备选方案,通过回退(fallback)机制提供”服务降级”

提供监控仪表盘,实时监控运行状态


3.Hystrix 熔断器工作原理


image.png


Hystrix 熔断器工作原理


服务的健康状况 = 请求失败数 / 请求总数.


熔断器开关由关闭到打开的状态转换是通过当前服务健康状况和设定阈值比较决定的.

当熔断器开关关闭时, 请求被允许通过熔断器. 如果当前健康状况高于设定阈值, 开关继续保持关闭. 如果当前健康状况低于


设定阈值, 开关则切换为打开状态.


当熔断器开关打开时, 请求被禁止通过.


当熔断器开关处于打开状态, 经过一段时间后, 熔断器会自动进入半开状态, 这时熔断器只允许一个请求通过. 当该请求调用


成功时, 熔断器恢复到关闭状态. 若该请求失败, 熔断器继续保持打开状态, 接下来的请求被禁止通过.


熔断器的开关能保证服务调用者在调用异常服务时, 快速返回结果, 避免大量的同步等待. 并且熔断器能在一段时间后继续侦测请求执行结果, 提供恢复服务调用的可能.


4.什么情况下会触发服务降级


FAILURE: 执行失败,抛出异常

TIMEOUT:执行超时(默认1秒)

SHORT_CIRCUITED:熔断器状态为Open

THREAD_POOL_REJECTED:线程池拒绝

SEMAPHORE_REJECTED:信号量拒绝


5.使用Hystrix步骤


1.引入pom文件依赖


<dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
        </dependency>


2.在启动类上方写入@EnableHystrixDashboard
  3.在方法上@HystrixCommand


public class MemberController {
    @Resource
    private RestTemplate restTemplate;
    @GetMapping("/snb")
    @ResponseBody
    /**
     * 模拟新书到货短信通知客户的业务
     */
    @HystrixCommand(fallbackMethod = "sendNewBookError")
    public String sendNewBook(String mobile,String bookname){
        String message = "[HOTBOOK]您预购的" + bookname + "已到货,明日将送到您府上";
        CallbackResult result = restTemplate.getForObject("http://message-service/sendsms?mobile=" +mobile+"&message=" + message , CallbackResult.class);
        if (result.getCode().equals("0")){
            return "短信已成功送达,服务返回:" +result.getResult();
        }else {
            return "短信发送失败,失败原因:" + result.getResult();
        }
    }
    public String sendNewBookError(String mobile,String bookname){
        return "短信发送失败,失败原因:消息服务无法正常运行,请稍后再试";
    }
}


6.OpenFeign与Hystrix整合


OpenFeign中使用Hystrix

OpenFeign内置Hystrix,feign.hystrix.enable开启即可


feign: hystrix: enabled: true


在@FeignClient增加fallback属性说明Fallback类


@FeignClient(name="message-service",fallback = MessageServiceFallback.class) public interface MessageService { @GetMapping("/sendsms") public CallbackResult sendSMS(@RequestParam("mobile") String mobile , @RequestParam("message") String message); }


Fallback类要实现相同接口,重写服务降级业务逻辑


@Component public class MessageServiceFallback implements MessageService { @Override public CallbackResult sendSMS(String mobile, String message) { return new CallbackResult("INVALID_SERVICE","消息服务暂时无法使用,短信发送失败"); } }


7.Hystrix超时设置


image.png


超时设置



image.png


Hystrix超时设置关系图


eureka:
  client:
    service-url:
      defaultZone:
        http://localhost:8761/eureka
spring:
  application:
    name: member-service
feign:
  hystrix:
    enabled: true
  client:
    config:
      default:
        connectTimeout: 500
        readTimeout: 500  #(3000-2500)/3000=16.7% , (3000-500)/3000=83%
hystrix:
  command:
    #"类名#方法名(参数类型1,参数类型2,参数类型n)"
    "MessageService#sendSMS(String,String)": #HystrixCommandKey
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 1000
            #假设:连接500毫秒,处理短信4000毫秒,哪个timeOut会触发服务降级
      circuitBreaker:
        forceOpen: false #true代表强制熔断器强制处于Open状态,即服务不可用
        requestVolumeThreshold: 50
        errorThresholdPercentage: 60
        sleepWindowInMilliseconds: 10000
    default:
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 6000
      circuitBreaker:
        #在当20秒的时间内,最近50次调用请求,请求错误率超过60%,则触发熔断10秒,期间快速失败。
        requestVolumeThreshold: 50
        errorThresholdPercentage: 60
        sleepWindowInMilliseconds: 10000
      metrics:
        rollingStats:
          timeInMilliseconds: 20000


8.部署Hystrix Dashboard监控


Hystrix Client依赖hystrix-metrics-event-stream


Hystrix Client注册HystrixMetricsStreamServlet


监控微服务依赖spring-cloud-starter-netflix-hystrix-dashboard


监控微服务利用@EnableHystrixDashboard开启仪表盘


9.Hystrix熔断设置


产生熔断的条件:


当一个Rolling Window(滑动窗口)的时间内(默认:10秒),最近20次调用请求,请求错误率超过50%,则触发熔断5秒,期间快速失败。

TIPS: 如10秒内未累计到20次,则不会触发熔断

Hystrix熔断设置项:


image.png


Hystrix熔断设置项


eureka:
  client:
    service-url:
      defaultZone:
        http://localhost:8761/eureka
spring:
  application:
    name: member-service
feign:
  hystrix:
    enabled: true
  client:
    config:
      default:
        connectTimeout: 500
        readTimeout: 500  #(3000-2500)/3000=16.7% , (3000-500)/3000=83%
hystrix:
  command:
    #"类名#方法名(参数类型1,参数类型2,参数类型n)"
    "MessageService#sendSMS(String,String)": #HystrixCommandKey
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 1000
            #假设:连接500毫秒,处理短信4000毫秒,哪个timeOut会触发服务降级
      circuitBreaker:
        forceOpen: false #true代表强制熔断器强制处于Open状态,即服务不可用
        requestVolumeThreshold: 50
        errorThresholdPercentage: 60
        sleepWindowInMilliseconds: 10000
    default:
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 6000
      circuitBreaker:
        #在当20秒的时间内,最近50次调用请求,请求错误率超过60%,则触发熔断10秒,期间快速失败。
        requestVolumeThreshold: 50
        errorThresholdPercentage: 60
        sleepWindowInMilliseconds: 10000
      metrics:
        rollingStats:
          timeInMilliseconds: 20000


相关文章
|
1月前
|
Dubbo Java 应用服务中间件
Spring Cloud Dubbo:微服务通信的高效解决方案
【10月更文挑战第15天】随着信息技术的发展,微服务架构成为企业应用开发的主流。Spring Cloud Dubbo结合了Dubbo的高性能RPC和Spring Cloud的生态系统,提供高效、稳定的微服务通信解决方案。它支持多种通信协议,具备服务注册与发现、负载均衡及容错机制,简化了服务调用的复杂性,使开发者能更专注于业务逻辑的实现。
58 2
|
2月前
|
Java 对象存储 开发者
解析Spring Cloud与Netflix OSS:微服务架构中的左右手如何协同作战
Spring Cloud与Netflix OSS不仅是现代微服务架构中不可或缺的一部分,它们还通过不断的技术创新和社区贡献推动了整个行业的发展。无论是对于初创企业还是大型组织来说,掌握并合理运用这两套工具,都能极大地提升软件系统的灵活性、可扩展性以及整体性能。随着云计算和容器化技术的进一步普及,Spring Cloud与Netflix OSS将继续引领微服务技术的发展潮流。
56 0
|
1月前
|
Dubbo Java 应用服务中间件
Dubbo学习圣经:从入门到精通 Dubbo3.0 + SpringCloud Alibaba 微服务基础框架
尼恩团队的15大技术圣经,旨在帮助开发者系统化、体系化地掌握核心技术,提升技术实力,从而在面试和工作中脱颖而出。本文介绍了如何使用Dubbo3.0与Spring Cloud Gateway进行整合,解决传统Dubbo架构缺乏HTTP入口的问题,实现高性能的微服务网关。
|
1月前
|
JSON Java 数据格式
【微服务】SpringCloud之Feign远程调用
本文介绍了使用Feign作为HTTP客户端替代RestTemplate进行远程调用的优势及具体使用方法。Feign通过声明式接口简化了HTTP请求的发送,提高了代码的可读性和维护性。文章详细描述了Feign的搭建步骤,包括引入依赖、添加注解、编写FeignClient接口和调用代码,并提供了自定义配置的示例,如修改日志级别等。
84 1
|
1月前
|
人工智能 文字识别 Java
SpringCloud+Python 混合微服务,如何打造AI分布式业务应用的技术底层?
尼恩,一位拥有20年架构经验的老架构师,通过其深厚的架构功力,成功指导了一位9年经验的网易工程师转型为大模型架构师,薪资逆涨50%,年薪近80W。尼恩的指导不仅帮助这位工程师在一年内成为大模型架构师,还让他管理起了10人团队,产品成功应用于多家大中型企业。尼恩因此决定编写《LLM大模型学习圣经》系列,帮助更多人掌握大模型架构,实现职业跃迁。该系列包括《从0到1吃透Transformer技术底座》、《从0到1精通RAG架构》等,旨在系统化、体系化地讲解大模型技术,助力读者实现“offer直提”。此外,尼恩还分享了多个技术圣经,如《NIO圣经》、《Docker圣经》等,帮助读者深入理解核心技术。
SpringCloud+Python 混合微服务,如何打造AI分布式业务应用的技术底层?
|
1月前
|
Java 数据库 数据安全/隐私保护
Spring 微服务提示:使用环境变量抽象数据库主机名
Spring 微服务提示:使用环境变量抽象数据库主机名
45 1
|
1月前
|
监控 Java 对象存储
监控与追踪:如何利用Spring Cloud Sleuth和Netflix OSS工具进行微服务调试
监控与追踪:如何利用Spring Cloud Sleuth和Netflix OSS工具进行微服务调试
44 1
|
1月前
|
安全 Java 对象存储
安全性考量:Spring Security与Netflix OSS在微服务安全中的作用
安全性考量:Spring Security与Netflix OSS在微服务安全中的作用
43 1
|
2月前
|
负载均衡 Java 网络架构
实现微服务网关:Zuul与Spring Cloud Gateway的比较分析
实现微服务网关:Zuul与Spring Cloud Gateway的比较分析
109 5
|
2月前
|
前端开发 API 微服务
SpringCloud微服务之间使用Feign调用不通情况举例
SpringCloud微服务之间使用Feign调用不通情况举例
538 2