微服务限流Sentinel讲解(一)

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 微服务限流Sentinel讲解(一)

1.Sentinel使用的基本场景


1.1.雪崩问题及解决方案


1.1.1.雪崩问题


微服务中,服务间调用关系错综复杂,一个微服务往往依赖于多个其它微服务。

image.png

如图,如果服务提供者I发生了故障,当前的应用的部分业务因为依赖于服务I,因此也会被阻塞。此时,其它不依赖于服务I的业务似乎不受影响

image.png

但是,依赖服务I的业务请求被阻塞,用户不会得到响应,则tomcat的这个线程不会释放,于是越来越多的用户请求到来,越来越多的线程会阻塞:

image.png

服务器支持的线程和并发数有限,请求一直阻塞,会导致服务器资源耗尽,从而导致所有其它服务都不可用,那么当前服务也就不可用了。

那么,依赖于当前服务的其它服务随着时间的推移,最终也都会变的不可用,形成级联失败,雪崩就发生了:

image.png

1.1.2.超时处理


解决雪崩问题的常见方式有四种:

•超时处理:设定超时时间,请求超过一定时间没有响应就返回错误信息,不会无休止等待

image.png

1.1.3.仓壁模式


方案2:仓壁模式

仓壁模式来源于船舱的设计:

image.png

船舱都会被隔板分离为多个独立空间,当船体破损时,只会导致部分空间进入,将故障控制在一定范围内,避免整个船体都被淹没。

于此类似,我们可以限定每个业务能使用的线程数,避免耗尽整个tomcat的资源,因此也叫线程隔离。

image.png

1.1.4.断路器


断路器模式:由断路器统计业务执行的异常比例,如果超出阈值则会熔断该业务,拦截访问该业务的一切请求。

断路器会统计访问某个服务的请求数量,异常比例:

image.png

当发现访问服务D的请求异常比例过高时,认为服务D有导致雪崩的风险,会拦截访问服务D的一切请求,形成熔断:

image.png

1.1.5.限流


流量控制:限制业务访问的QPS,避免服务因流量的突增而故障。

image.png

1.1.6.总结


什么是雪崩问题?

  • 微服务之间相互调用,因为调用链中的一个服务故障,引起整个链路都无法访问的情况。

可以认为:

限流是对服务的保护,避免因瞬间高并发流量而导致服务故障,进而避免雪崩。是一种预防措施。

超时处理、线程隔离、降级熔断是在部分服务故障时,将故障控制在一定范围,避免雪崩。是一种补救措施。

1.2.服务保护技术对比


在SpringCloud当中支持多种服务保护技术:

早期比较流行的是Hystrix框架,但目前国内实用最广泛的还是阿里巴巴的Sentinel框架,这里我们做下对比:

image.png

下一章我们将讲解Sentinel组件的安装与基本应用。


相关文章
|
10小时前
|
监控 Java 应用服务中间件
【微服务系列笔记】Sentinel入门-微服务保护
Sentinel是一个开源的分布式系统和应用程序的运维监控平台。它提供了实时数据收集、可视化、告警和自动化响应等功能,帮助用户监控和管理复杂的IT环境。本文简单介绍了微服务保护以及常见雪崩问题,解决方案。以及利用sentinel进行入门案例。
29 3
|
10小时前
|
监控 Java 应用服务中间件
微服务保护Sentinel
应用的硬件、软件架构在涉及到部署时,一般会根据实际请求量做一定的压力测试,以测试系统稳定性、健壮性,避免后续线上未知故障。假设在一个电商的秒杀场景下,订单中心本身能够承载的QPS预设是10W,因为活动的火爆导致流量瞬时达到100W,此时订单中心因无法承载其10倍的请求将会崩溃,那么对于整个分布式架构系统会产生什么问题呢?本节我们将借助于Sentinel的流量控制、隔离降级来解决上述分布式架构中常见的雪崩问题。
28 1
|
10小时前
|
Java 数据安全/隐私保护 Sentinel
微服务学习 | Spring Cloud 中使用 Sentinel 实现服务限流
微服务学习 | Spring Cloud 中使用 Sentinel 实现服务限流
|
10小时前
|
SpringCloudAlibaba 监控 Java
SpringCloud Alibaba微服务-- Sentinel的使用(保姆级)
SpringCloud Alibaba微服务-- Sentinel的使用(保姆级)
|
10小时前
|
Java Nacos Sentinel
【Springcloud Alibaba微服务分布式架构 | Spring Cloud】之学习笔记(九)Nacos+Sentinel+Seata
【Springcloud Alibaba微服务分布式架构 | Spring Cloud】之学习笔记(九)Nacos+Sentinel+Seata
240 0
|
10小时前
|
SpringCloudAlibaba 监控 Java
SpringCloud Alibaba Sentinel实现熔断与限流--学习笔记
SpringCloud Alibaba Sentinel实现熔断与限流--学习笔记
28 0
|
10小时前
|
监控 算法 Java
sentinel 服务限流工作原理
sentinel 服务限流工作原理
|
10小时前
|
监控 测试技术 持续交付
构建高效可靠的微服务架构:后端开发的现代实践
【5月更文挑战第14天】 随着数字化转型的浪潮,企业对于灵活、可扩展且高效的后端系统的需求日益增长。本文旨在探讨如何通过微服务架构来实现这些需求,涵盖微服务设计原则、开发流程以及持续集成和部署(CI/CD)的最佳实践。文中还将讨论监控、日志管理与容错机制,以确保系统的可靠性和性能。
|
10小时前
|
运维 负载均衡 监控
探索微服务架构下的服务治理策略
【5月更文挑战第14天】在当今软件开发的世界中,微服务架构因其灵活性、可扩展性和技术异构性而受到青睐。然而,随着系统向微服务模型迁移,服务治理成为确保系统整体稳定性和高效通信的关键。本文将探讨在微服务架构中实施有效服务治理的策略,包括服务发现、配置管理、负载均衡、熔断机制以及服务监控等关键要素。通过深入分析这些策略如何协同工作以维护系统的弹性和响应能力,我们旨在为开发和运维团队提供指导性的建议。
|
10小时前
|
设计模式 API 持续交付
构建高效微服务架构:后端开发的新趋势
【5月更文挑战第14天】在现代软件开发的快速迭代与多变需求中,传统的单体应用架构逐渐显露出其局限性。微服务架构作为一种新兴的分布式系统设计模式,以其灵活性、可扩展性及容错性受到广泛关注。本文将深入剖析微服务架构的核心概念,探讨其在后端开发中的应用,并提出一系列实施策略和最佳实践,以期帮助企业和技术团队更好地应对复杂多变的业务挑战。