如何解决服务雪崩?

简介: 一.什么是服务雪崩(1)分布式系统环境下,通常会有很多层的服务调用。由于网络原因或自身的原因,服务一般无法保证100%可用。如果一个服务出现了问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等待,进而导致服务瘫痪。(2)如下图,对于同步调用,当底层的库存服务不可用时,商品服务请求线程被阻塞,当有大批请求调用库存服务时,最终可能导致整个商品服务资源耗尽,无法继续对外提供服务。(3)由于服务与服务之间的依赖性,故障会传播,不可用沿请求调用链向上传递,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的“雪崩效应”。

如何解决服务雪崩?



一.什么是服务雪崩


(1)分布式系统环境下,通常会有很多层的服务调用。由于网络原因或自身的原因,服务一般无法保证100%可用。如果一个服务出现了问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等待,进而导致服务瘫痪。


(2)如下图,对于同步调用,当底层的库存服务不可用时,商品服务请求线程被阻塞,当有大批请求调用库存服务时,最终可能导致整个商品服务资源耗尽,无法继续对外提供服务。


(3)由于服务与服务之间的依赖性,故障会传播,不可用沿请求调用链向上传递,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的“雪崩效应”。


f999e03a12254c19a2eba562809fa807.png


二.容错方案


要防止雪崩的扩散,我们就要做好服务的容错:保护自己不被猪队友拖垮的一些措施。

常见的容错方案:隔离、超时、限流、熔断、降级


1.隔离


将系统按照一定的原则划分为若干个服务模块,各个模块之间相互独立,无强依赖。当有故障发生时,能将问题和影响隔离在某个模块内部,而不扩散风险,不涉及其他模块,不影响整体的系统服务。常见的隔离方式有:线程池隔离和信号量隔离。


c3665cd3c795456f9220977f07317575.png


2.超时


上游服务调用下游服务时,设置一个最大响应时间,如果超过这个时间,下游未作出响应,就断开请求,释放掉线程。


b8d625a1ad444a77a802dcf1944f650e.png


3.限流


限制系统的输入和输出流量以达到保护系统的目的。为了保证系统的稳定运行,一旦达到需要限制的阈值,就采取相应措施以完成限制流量的目的。


088319054319464b80420e048ece9aa5.png


4.熔断


当下游服务因访问压力过大而响应变慢或失败,上游服务为了保护系统整体的可用性,可以暂时切断对下游

服务的调用。这种牺牲局部,保护整体的措施就叫做熔断。


ad3be63970ec44b0be7d8c6b2887da08.png


5.降级


降级就是为服务提供了一个托底方案,一旦服务无法正常调用,就使用托底方案。


a93ed8fc262640778e7b10ebcf92e1a6.png


三.容错组件


1、Hystrix


Hystrix是由Netflix开源的一个延迟和容错组件,用于隔离访问远程系统、服务或者第三方库,防止级联失败,从而提升系统的可用性与容错性。


2、Resilience4J


Resilicence4J提供丰富的容错工具,轻量、简单、文档清晰,也是Spring Cloud官方推荐替代Hystrix的产品。不仅如此,Resilicence4j还原生支持Spring Boot 1.x/2.x,而且监控也支持和prometheus等多款主流产品进行整合。


3、Sentinel


Sentinel 是阿里巴巴开源的一款断路器实现,在阿里内部已经被大规模采用,非常稳定。


四.Sentinel介绍


1、什么是Sentinel


Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。


2、Sentinel 的特征


(1)丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。


(2)完备的实时监控:Sentinel 提供了实时的监控功能。通过控制台可以看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。


(3)广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 SpringCloud、Dubbo、gRPC 的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入Sentinel。


(4)完善的扩展点:Sentinel 提供简单易用、完善的扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。


3、Sentinel 的组成


(1)核心库(Java 客户端):不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对 Dubbo /Spring Cloud 等框架也有较好的支持。


(2)控制台(Dashboard):基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等应用容器。


五.Sentinel控制台


Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。


1、下载和安装


①下载地址:https://github.com/alibaba/Sentinel/releases

②下载版本:sentinel-dashboard-1.7.0.jar


2、启动控制台


控制台本身是一个SpringBoot项目,直接使用jar命令启动项目。在Sentinel目录下输入cmd,运行下面的命令:


e4be49bc16d24a1ca344f4df6163348a.png


//使用命令1(一般用这个就可以了)
java -jar sentinel-dashboard-1.7.0.jar
//或者命令2
java -Dserver.port=8888 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.7.0.jar


(1)访问:http://localhost:8080

(2)用户名密码:sentinel/sentinel


3.微服务集成Sentinel客户端


引入依赖(在服务消费者端引入依赖)


<!--服务容错-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>


4.微服务连接控制台


(1)微服务配置(在服务消费者端yml中添加以下配置)


spring:
  cloud:
    sentinel:
      transport:
        port: 8081 #跟控制台交流的端口,随意指定一个未使用的端口即可
        dashboard: localhost:8080 # 指定控制台服务的地址


(2)控制台运行原理


①Sentinel的控制台是一个SpringBoot编写的程序。我们需要将我们的微服务程序注册到控制台上,即在微服务中指定控制台的地址(localhost:8080)


②并且还要开启一个跟控制台传递数据的端口(8081),控制台也可以通过此端口调用微服务中的监控程序获取微服务的各种信息。

运行项目以后就可以正常使用sentinel了。


相关文章
|
6天前
|
数据库 Python
什么问题会导致404?如何解决404?
什么问题会导致404?如何解决404?
|
2月前
|
SQL 安全 算法
在高并发情况下,如何做到安全的修改同一行数据?
在高并发情况下,如何做到安全的修改同一行数据?
|
9月前
|
微服务
什么是服务雪崩,怎么解决这个问题?
什么是服务雪崩,怎么解决这个问题?
110 0
|
10月前
|
消息中间件 canal 缓存
缓存数据一致性探究
缓存是一种较低成本提升系统性能的方式,自它面世第一天起就备受广大开发者的喜爱。然而正如《人月神话》中的那句经典的“没有银弹”中所说,软件工程的设计没有银弹。 就像每一次发布上线修复问题的同时,也极易引入新的问题,自缓存诞生的第一天起,缓存与数据库的数据一致性问题就深深困扰着开发者们。 关键词:原子性、事务性、数据一致性、双写一致性
6497 1
缓存数据一致性探究
|
11月前
|
测试技术
R问题|代码报错如何解决?
R问题|代码报错如何解决?
214 0
|
11月前
|
Java C++ Python
7-2 然后是几点
7-2 然后是几点
137 0
|
缓存 负载均衡 Oracle
面试官:说下你在项目中是如何处理高并发的???
面试官:说下你在项目中是如何处理高并发的???
300 0
面试官:说下你在项目中是如何处理高并发的???
|
消息中间件 缓存 NoSQL
面试官:缓存一致性问题怎么解决?
关于Redis的其他的一些面试问题已经写过了,比如常见的缓存穿透、雪崩、击穿、热点的问题,但是还有一个比较麻烦的问题就是如何保证缓存一致性。
面试官:缓存一致性问题怎么解决?
|
监控
外贸企业如何解决单证管理问题?
单证管理一直是困扰外贸企业的问题,由于单证制作工作量大、且效率低,单与单之间传递的一致性、及时性、准确性、版本可追溯性难保证,占用较多人力资源及数据错漏
165 0
外贸企业如何解决单证管理问题?
|
存储 安全 IDE
2021年了,生产环境的问题你怎么解决呢?(下)
2021年了,生产环境的问题你怎么解决呢?
218 0
2021年了,生产环境的问题你怎么解决呢?(下)