分布式系统架构中高可用方案技术选型:Hystrix 框架实现服务保护使用详解

简介: 本篇文章介绍了分布式系统架构下的经典的高可用框架Hsytrix实现的断路器,服务降级,服务熔断,服务隔离以及解决服务雪崩效应的问题。详细分析了基于Hystrix框架解决分布式系统中服务雪崩效应的几种机制,以及在项目中如何集成Hystrix框架并且在项目中使用Hystrix框架实现分布式系统中的服务治理。

Hystrix

  • Hystrix是Netflix开源的高可用框架,能够完美解决分布式系统架构中高可用服务的问题

    • 断路器
    • 服务降级
    • 服务熔断
    • 服务隔离机制
    • 服务雪崩效应
  • Hystrix具有自我保护能力

服务保护概念

  • 在微服务高可用分布式系统中会出现:服务间的调用超时,服务间的调用时失败问题

服务雪崩效应

  • 默认情况下,Tomcat只有一个线程池处理客户端发送的请求,这样在高并发的情况下客户端所有请求堆积在同一个服务接口,就会产生Tomcat所有线程池去处理服务接口,会导致其它服务接口无法访问,这样在其它接口访问的时候就会产生延迟和等待
  • 服务雪崩效应严重会造成连环雪崩效应,可能会导致所有微服务接口无法访问,导致整个服务瘫痪
Tomcat中有个线程池,每个线程去处理客户端发送的每次请求
  • 基于Hystrix解决服务雪崩效应的机制:

    • 服务降级:
    • 服务熔断:
    • 服务隔离:

服务降级

  • 在高并发的情况下,防止用户等待,服务调用fallBack方法,返回一个友好提示直接给客户端而不会去处理请求,目的是为了提升用户体验
当Tomcat中没有线程处理客户端请求的时候,不应该让界面一致转圈,让用户等待

如果服务在调用其它接口超时的时候(默认1秒),默认情况下,业务逻辑是可以执行的,如果服务没有响应直接执行的是服务降级方法

服务熔断

  • 在高并发的情况下,设定服务的阈值,当流量过高超出给定的阈值,会自动开启保护功能,使用服务降级方式返回一个友好提示给客户端
  • 熔断机制和服务降级是一起作用的
  • 服务熔断的目的是为了保护服务

服务隔离

  • 服务隔离有两种:线程池隔离信号量隔离
  • 线程池隔离:

    • 每个服务接口都有自己独立的线程池,每个线程池互补影响
    • 由于线程池CPU占用率非常高,不是所有服务接口都采用线程池隔离,只有核心关键的接口才会采用线程池隔离

Hystrix环境搭建

  • 导入Hystrix依赖:spring-cloud-starter-netflix-hystrix
  • 在服务消费者(Consumer)项目中的配置文件中开启Hystrix断路器
feign.hystrix.enabled=true
  • 在配置文件中设置hystrix服务超时时间,防止业务服务响应不及时,执行服务降级
hystrix.command.default.execution.isolation.thread. timeoutInMilliseconds=10000
  • 在主类上标注@EnableFeignClient开启Fegin的Hystrix功能
  • 在服务实现的方法上标注 @HystrixCommand注解使用Hystrix框架
@HystrixCommand默认开启了服务降级,服务熔断,服务隔离
@HystrixCommand中的服务隔离默认开启线程池隔离方式
@HystrixCommand(fallback="服务降级提示方法名称"),其中的fallback用于服务降级

fallback接口

  • Hystrix使用类方式fallback进行服务降级的方法处理
1.新建fallback类
2.类上标注@Component注解将类加载到容器中
3.调用fallback类时,在@FeignClient注释中添加fallback参数@FeignClient(fallback=Fallback.class)
相关文章
|
9月前
|
网络协议 NoSQL API
转转客服IM系统的WebSocket集群架构设计和部署方案
客服IM系统是转转自研的在线客服系统,是用户和转转客服沟通的重要工具,主要包括机器人客服、人工客服、会话分配、技能组管理等功能。在这套系统中,我们使用了很多开源框架和中间件,今天讲一下客服IM系统中WebSocket集群的的实践和应用。
649 141
|
9月前
|
消息中间件 监控 Cloud Native
高效设计:支持亿级用户社交关系的100W QPS架构方案
面对亿级用户与百万QPS的高并发场景,性能测试成为系统稳定的关键。本文剖析真实业务痛点,详解从接口压测、全链路监控到瓶颈定位的完整性能体系,助你掌握大厂级性能优化能力,从容应对卡顿、宕机等线上挑战。
|
9月前
|
存储 监控 NoSQL
Redis高可用架构全解析:从主从复制到集群方案
Redis高可用确保服务持续稳定,避免单点故障导致数据丢失或业务中断。通过主从复制实现数据冗余,哨兵模式支持自动故障转移,Cluster集群则提供分布式数据分片与水平扩展,三者层层递进,保障读写分离、容灾切换与大规模数据存储,构建高性能、高可靠的Redis架构体系。
|
边缘计算 Kubernetes 物联网
Kubernetes 赋能边缘计算:架构解析、挑战突破与实践方案
在物联网和工业互联网快速发展的背景下,边缘计算凭借就近处理数据的优势,成为解决云计算延迟高、带宽成本高的关键技术。而 Kubernetes 凭借统一管理、容器化适配和强大生态扩展性,正逐步成为边缘计算的核心编排平台。本文系统解析 Kubernetes 适配边缘环境的架构分层、核心挑战与新兴解决方案,为企业落地边缘项目提供实践参考。
779 0
|
11月前
|
缓存 Java 数据库
Java 项目分层架构实操指南及长尾关键词优化方案
本指南详解基于Spring Boot与Spring Cloud的Java微服务分层架构,以用户管理系统为例,涵盖技术选型、核心代码实现、服务治理及部署实践,助力掌握现代化Java企业级开发方案。
445 2
|
人工智能 负载均衡 Java
Spring AI Alibaba 发布企业级 MCP 分布式部署方案
本文介绍了Spring AI Alibaba MCP的开发与应用,旨在解决企业级AI Agent在分布式环境下的部署和动态更新问题。通过集成Nacos,Spring AI Alibaba实现了流量负载均衡及节点变更动态感知等功能。开发者可方便地将企业内部业务系统发布为MCP服务或开发自己的AI Agent。文章详细描述了如何通过代理应用接入存量业务系统,以及全新MCP服务的开发流程,并提供了完整的配置示例和源码链接。未来,Spring AI Alibaba计划结合Nacos3的mcp-registry与mcp-router能力,进一步优化Agent开发体验。
4044 14
|
11月前
|
数据采集 边缘计算 定位技术
ar景区导航导览开发方案:核心技术架构与功能设计
本方案针对传统景区导航吸引力弱、互动性差等问题,融合三维建模、多源定位与AR引擎技术,实现室内外精准导航与AR互动体验。支持AR寻宝等功能,提升游客体验与景区竞争力。
681 0
|
11月前
|
存储 消息中间件 NoSQL
跟着大厂学架构01:如何利用开源方案,复刻B站那套“永不崩溃”的评论系统?
本文基于B站技术团队分享的《B站评论系统的多级存储架构》,解析其在高并发场景下的设计精髓,并通过开源技术栈(MySQL、Redis、Java)复刻其实现。文章深入讲解了多级存储、数据同步、容灾降级等关键设计,并附有完整代码实现,助你掌握大厂架构设计之道。
542 0
|
NoSQL 算法 安全
redis分布式锁在高并发场景下的方案设计与性能提升
本文探讨了Redis分布式锁在主从架构下失效的问题及其解决方案。首先通过CAP理论分析,Redis遵循AP原则,导致锁可能失效。针对此问题,提出两种解决方案:Zookeeper分布式锁(追求CP一致性)和Redlock算法(基于多个Redis实例提升可靠性)。文章还讨论了可能遇到的“坑”,如加从节点引发超卖问题、建议Redis节点数为奇数以及持久化策略对锁的影响。最后,从性能优化角度出发,介绍了减少锁粒度和分段锁的策略,并结合实际场景(如下单重复提交、支付与取消订单冲突)展示了分布式锁的应用方法。
943 3
|
消息中间件 人工智能 监控
文生图架构设计原来如此简单之分布式服务
想象一下,当成千上万的用户同时要求AI画图,如何公平高效地处理这些请求?文生图/图生图大模型的架构设计看似复杂,实则遵循简单而有效的原则:合理排队、分工明确、防患未然。
551 14
文生图架构设计原来如此简单之分布式服务