分布式系统架构中高可用方案技术选型:Hystrix 框架实现服务保护使用详解

简介: 本篇文章介绍了分布式系统架构下的经典的高可用框架Hsytrix实现的断路器,服务降级,服务熔断,服务隔离以及解决服务雪崩效应的问题。详细分析了基于Hystrix框架解决分布式系统中服务雪崩效应的几种机制,以及在项目中如何集成Hystrix框架并且在项目中使用Hystrix框架实现分布式系统中的服务治理。

Hystrix

  • Hystrix是Netflix开源的高可用框架,能够完美解决分布式系统架构中高可用服务的问题

    • 断路器
    • 服务降级
    • 服务熔断
    • 服务隔离机制
    • 服务雪崩效应
  • Hystrix具有自我保护能力

服务保护概念

  • 在微服务高可用分布式系统中会出现:服务间的调用超时,服务间的调用时失败问题

服务雪崩效应

  • 默认情况下,Tomcat只有一个线程池处理客户端发送的请求,这样在高并发的情况下客户端所有请求堆积在同一个服务接口,就会产生Tomcat所有线程池去处理服务接口,会导致其它服务接口无法访问,这样在其它接口访问的时候就会产生延迟和等待
  • 服务雪崩效应严重会造成连环雪崩效应,可能会导致所有微服务接口无法访问,导致整个服务瘫痪
Tomcat中有个线程池,每个线程去处理客户端发送的每次请求
  • 基于Hystrix解决服务雪崩效应的机制:

    • 服务降级:
    • 服务熔断:
    • 服务隔离:

服务降级

  • 在高并发的情况下,防止用户等待,服务调用fallBack方法,返回一个友好提示直接给客户端而不会去处理请求,目的是为了提升用户体验
当Tomcat中没有线程处理客户端请求的时候,不应该让界面一致转圈,让用户等待

如果服务在调用其它接口超时的时候(默认1秒),默认情况下,业务逻辑是可以执行的,如果服务没有响应直接执行的是服务降级方法

服务熔断

  • 在高并发的情况下,设定服务的阈值,当流量过高超出给定的阈值,会自动开启保护功能,使用服务降级方式返回一个友好提示给客户端
  • 熔断机制和服务降级是一起作用的
  • 服务熔断的目的是为了保护服务

服务隔离

  • 服务隔离有两种:线程池隔离信号量隔离
  • 线程池隔离:

    • 每个服务接口都有自己独立的线程池,每个线程池互补影响
    • 由于线程池CPU占用率非常高,不是所有服务接口都采用线程池隔离,只有核心关键的接口才会采用线程池隔离

Hystrix环境搭建

  • 导入Hystrix依赖:spring-cloud-starter-netflix-hystrix
  • 在服务消费者(Consumer)项目中的配置文件中开启Hystrix断路器
feign.hystrix.enabled=true
  • 在配置文件中设置hystrix服务超时时间,防止业务服务响应不及时,执行服务降级
hystrix.command.default.execution.isolation.thread. timeoutInMilliseconds=10000
  • 在主类上标注@EnableFeignClient开启Fegin的Hystrix功能
  • 在服务实现的方法上标注 @HystrixCommand注解使用Hystrix框架
@HystrixCommand默认开启了服务降级,服务熔断,服务隔离
@HystrixCommand中的服务隔离默认开启线程池隔离方式
@HystrixCommand(fallback="服务降级提示方法名称"),其中的fallback用于服务降级

fallback接口

  • Hystrix使用类方式fallback进行服务降级的方法处理
1.新建fallback类
2.类上标注@Component注解将类加载到容器中
3.调用fallback类时,在@FeignClient注释中添加fallback参数@FeignClient(fallback=Fallback.class)
相关文章
|
4月前
|
人工智能 JavaScript 前端开发
GenSX (不一样的AI应用框架)架构学习指南
GenSX 是一个基于 TypeScript 的函数式 AI 工作流框架,以“函数组合替代图编排”为核心理念。它通过纯函数组件、自动追踪与断点恢复等特性,让开发者用自然代码构建可追溯、易测试的 LLM 应用。支持多模型集成与插件化扩展,兼具灵活性与工程化优势。
367 6
|
10月前
|
人工智能 自然语言处理 数据可视化
两大 智能体框架 Dify vs Langchain 的全面分析,该怎么选?资深架构师 做一个彻底的解密
两大 智能体框架 Dify vs Langchain 的全面分析,该怎么选?资深架构师 做一个彻底的解密
两大 智能体框架 Dify vs Langchain 的全面分析,该怎么选?资深架构师 做一个彻底的解密
|
5月前
|
消息中间件 缓存 监控
中间件架构设计与实践:构建高性能分布式系统的核心基石
摘要 本文系统探讨了中间件技术及其在分布式系统中的核心价值。作者首先定义了中间件作为连接系统组件的"神经网络",强调其在数据传输、系统稳定性和扩展性中的关键作用。随后详细分类了中间件体系,包括通信中间件(如RabbitMQ/Kafka)、数据中间件(如Redis/MyCAT)等类型。文章重点剖析了消息中间件的实现机制,通过Spring Boot代码示例展示了消息生产者的完整实现,涵盖消息ID生成、持久化、批量发送及重试机制等关键技术点。最后,作者指出中间件架构设计对系统性能的决定性影响,
|
6月前
|
人工智能 自然语言处理 JavaScript
Github又一AI黑科技项目,打造全栈架构,只需一个统一框架?
Motia 是一款现代化后端框架,融合 API 接口、后台任务、事件系统与 AI Agent,支持 JavaScript、TypeScript、Python 多语言协同开发。它提供可视化 Workbench、自动观测追踪、零配置部署等功能,帮助开发者高效构建事件驱动的工作流,显著降低部署与运维成本,提升 AI 项目落地效率。
613 0
|
机器学习/深度学习 安全 算法
十大主流联邦学习框架:技术特性、架构分析与对比研究
联邦学习(FL)是保障数据隐私的分布式模型训练关键技术。业界开发了多种开源和商业框架,如TensorFlow Federated、PySyft、NVFlare、FATE、Flower等,支持模型训练、数据安全、通信协议等功能。这些框架在灵活性、易用性、安全性和扩展性方面各有特色,适用于不同应用场景。选择合适的框架需综合考虑开源与商业、数据分区支持、安全性、易用性和技术生态集成等因素。联邦学习已在医疗、金融等领域广泛应用,选择适配具体需求的框架对实现最优模型性能至关重要。
2412 79
十大主流联邦学习框架:技术特性、架构分析与对比研究
|
9月前
|
Java 开发者 Spring
Spring框架 - 深度揭秘Spring框架的基础架构与工作原理
所以,当你进入这个Spring的世界,看似一片混乱,但细看之下,你会发现这里有个牢固的结构支撑,一切皆有可能。不论你要建设的是一座宏大的城堡,还是个小巧的花园,只要你的工具箱里有Spring,你就能轻松搞定。
375 9
|
11月前
|
消息中间件 人工智能 监控
文生图架构设计原来如此简单之分布式服务
想象一下,当成千上万的用户同时要求AI画图,如何公平高效地处理这些请求?文生图/图生图大模型的架构设计看似复杂,实则遵循简单而有效的原则:合理排队、分工明确、防患未然。
438 14
文生图架构设计原来如此简单之分布式服务
|
11月前
|
监控 安全 Cloud Native
企业网络架构安全持续增强框架
企业网络架构安全评估与防护体系构建需采用分层防御、动态适应、主动治理的方法。通过系统化的实施框架,涵盖分层安全架构(核心、基础、边界、终端、治理层)和动态安全能力集成(持续监控、自动化响应、自适应防护)。关键步骤包括系统性风险评估、零信任网络重构、纵深防御技术选型及云原生安全集成。最终形成韧性安全架构,实现从被动防御到主动免疫的转变,确保安全投入与业务创新的平衡。
|
12月前
|
人工智能 自然语言处理 并行计算
MeteoRA:多任务AI框架革新!动态切换+MoE架构,推理效率提升200%
MeteoRA 是南京大学推出的多任务嵌入框架,基于 LoRA 和 MoE 架构,支持动态任务切换与高效推理。
618 3
|
存储 分布式计算 Hadoop
MPP 架构与 Hadoop 架构技术选型指南
MPP架构与Hadoop架构是处理海量数据的两大选择。MPP通过大规模并行处理实现快速查询响应,适用于企业级数据仓库和OLAP应用;Hadoop则以分布式存储和计算为核心,擅长处理非结构化数据和大数据分析。两者各有优劣,MPP适合结构化数据和高性能需求场景,而Hadoop在扩展性和容错性上表现更佳。选择时需综合考虑业务需求、预算和技术能力。
1451 14

热门文章

最新文章