Spring cloud Alibaba Sentinel

简介: Spring cloud Alibaba Sentinel

1 服务雪崩

分布式系统环境下,通常会有很多层的服务调用。由于网络原因或自身的原因,服务一般无法保证 100% 可用。如果一个服务出现了问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等待,进而导致服务瘫痪。

如下图,对于同步调用,当底层的库存服务不可用时,商品服务请求线程被阻塞,当有大批量请求调用库存服务时,最终可能导致整个商品服务资源耗尽,无法继续对外提供服务。

由于服务与服务之间的依赖性,故障会传播,不可用沿请求调用链向上传递,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的 “雪崩效应”


20210131165037881.png

2 服务容错

2.1 容错方案

要防止雪崩的扩散,我们就要做好服务的容错:保护自己不被猪队友拖垮的一些措施。


常见的容错方案:隔离、超时、限流、熔断、降级


2.1.1、隔离

将系统按照一定的原则划分为若干个服务模块,各个模块之间相对独立,无强依赖。当有故障发生时,能将问题和影响隔离在某个模块内部,而不扩散风险,不波及其它模块,不影响整体的系统服务。常见的隔离方式有:线程池隔离和信号量隔离。


20210131223045280.png


2.2.2、超时

上游服务调用下游服务时,设置一个最大响应时间,如果超过这个时间,下游未作出响应,就断开请求,释放掉线程。


20210131223059650.png


2.2.3、限流

限制系统的输入和输出流量以达到保护系统的目的。为了保证系统的稳定运行,一旦达到的需要限制的阈值,就采取相应措施以完成限制流量的目的。


20210131223109743.png


2.2.4、熔断

当下游服务因访问压力过大而响应变慢或失败,上游服务为了保护系统整体的可用性,可以暂时切断对下游服务的调用。这种牺牲局部,保全整体的措施就叫做熔断。


20210131223121352.png


2.2.5、降级

降级就是为服务提供一个托底方案,一旦服务无法正常调用,就使用托底方案。


20210131223133832.png


2.3 容错组件

2.3.1、Hystrix

Hystrix是由Netflix开源的一个延迟和容错组件,用于隔离访问远程系统、服务或者第三方库,防止级联失败,从而提升系统的可用性与容错性。


2.3.2、Resilience4J

Resilicence4J提供丰富的容错工具,轻量、简单、文档清晰,也是Spring Cloud官方推荐替代Hystrix的产品。不仅如此,Resilicence4j还原生支持Spring Boot 1.x/2.x,而且监控也支持和prometheus等多款主流产品进行整合。


2.3.3、Sentinel

Sentinel 是阿里巴巴开源的一款断路器实现,在阿里内部已经被大规模采用,非常稳定。


3 Sentinel介绍和环境搭建

3.1 Sentinel介绍

3.1.1、什么是Sentinel

Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。


3.1.2、Sentinel 的特征

丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。

完备的实时监控:Sentinel 提供了实时的监控功能。通过控制台可以看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。

广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 SpringCloud、Dubbo、gRPC 的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入Sentinel。

完善的扩展点:Sentinel 提供简单易用、完善的扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。

3.1.3、Sentinel 的组成

核心库(Java 客户端):不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对 Dubbo /Spring Cloud 等框架也有较好的支持。


控制台(Dashboard):基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等应用容器。


3.2 Sentinel控制台

Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。


3.2.1、下载和安装

下载地址:https://github.com/alibaba/Sentinel/releases


下载版本:sentinel-dashboard-1.7.0.jar


3.2.2、启动控制台

控制台本身是一个SpringBoot项目,直接使用jar命令启动项目

java -jar sentinel-dashboard-1.7.0.jar
java -Dserver.port=8888 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.7.0.jar

访问:http://localhost:8080


用户名密码:sentinel/sentinel


3.3 微服务集成Sentinel客户端

3.3.1、引入依赖

service模块中配置Sentinel的pom依赖(实际是在服务消费者端需要依赖)

<!--服务容错-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

3.3.2、添加测试方法

TeacherController中添加如下方法用于测试

@GetMapping("/message1")
public String message1() {
    return "message1";
}
@GetMapping("/message2")
public String message2() {
    return "message2";
}

3.4 微服务连接控制台

3.4.1、微服务配置

service_edu微服务yml中添加以下配置

#spring:
#  cloud:
    sentinel:
      transport:
        port: 8081 #跟控制台交流的端口,随意指定一个未使用的端口即可
        dashboard: localhost:8080 # 指定控制台服务的地址

3.4.2、swagger中测试

测试message1和message2的访问


3.4.3、查看sentinel控制台

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-sSWGesR2-1612083142052)(file:///C:/Users/Administrator/Documents/My Knowledge/temp/a63aea4d-1af3-4723-8e3e-74172b0abbfe/128/index_files/3884aad4-c899-4205-9ac5-21d0ae8a3437.png)]


3.4.4、控制台运行原理

Sentinel的控制台是一个SpringBoot编写的程序。我们需要将我们的微服务程序注册到控制台上,即在微服务中指定控制台的地址(localhost:8080)


并且还要开启一个跟控制台传递数据的端口(8081),控制台也可以通过此端口调用微服务中的监控程序获取微服务的各种信息。


4 Sentinel的概念和功能

4.1 实现接口限流

4.1.1、添加流控规则


2021013122315917.png

4.1.2、基本参数

资源名:唯一名称,默认是请求路径,可自定义

针对来源:指定对哪个微服务进行限流,默认指default,意思是不区分来源,全部限制

阈值类型/单机阈值:

QPS(每秒请求数量): 当调用该接口的QPS达到阈值的时候,进行限流

线程数:当调用该接口的线程数达到阈值的时候,进行限流

是否集群:暂不需要集群

20210131223217694.png


4.1.3、测试限流效果**

快速访问message1


20210131223228584.png


4.2 基本概念

4.2.1、资源

资源就是Sentinel要保护的东西


资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容,可以是一个服务,也可以是一个方法,甚至可以是一段代码。


案例中的message1方法就可以认为是一个资源

4.2.2、规则

规则就是用来定义如何进行保护资源的


作用在资源之上, 定义以什么样的方式保护资源,主要包括流量控制规则、熔断降级规则以及系统保护规则。


案例中就是为message1资源设置了一种流控规则, 限制了进入message1的流量

4.3 重要功能

20210131223314947.png


4.3.1、流量控制

思想:保证自己不被上游服务压垮


任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel可以根据需要把随机的请求调整成合适的形状。


4.3.2、熔断降级

思想:保证自己不被下游服务拖垮


当检测到调用链路中某个资源出现不稳定的表现,例如请求响应时间长或异常比例升高的时候,则对这个资源的调用进行限制,让请求快速失败,避免影响到其它的资源而导致级联故障。


4.3.3、系统负载保护

思想:保证外界环境良好(CPU、内存)


当系统负载较高的时候,如果还持续让请求进入可能会导致系统崩溃,无法响应。在集群环境下,会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。


5 OpenFeign整合Sentinel

让天下没有难学的技术


5.1 引入sentinel的依赖

<!--服务容错-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

5.2 开启Sentinel支持

在service_edu的yml配置文件中开启Feign对Sentinel的支持

feign:
  sentinel:
    enabled: true

5.3 创建容错类

package com.atguigu.guli.service.edu.feign.fallback;
@Service
public class OssFileServiceFallBack implements OssFileService {
    @Override
    public R test() {
        return R.error();
    }
    @Override
    public R removeFile(String url) {
        log.info("熔断保护");
        return R.error();
    }
}

5.4 指定容错类

为OpenFeign远程调用接口添加fallback属性值没指定容错类

@Service
@FeignClient(value = "service-oss", fallback = OssFileServiceFallBack.class)
public interface OssFileService {

5.5 测试

停止service_oss微服务,测试删除讲师的功能

目录
相关文章
|
30天前
|
人工智能 安全 Java
AI 时代:从 Spring Cloud Alibaba 到 Spring AI Alibaba
本次分享由阿里云智能集团云原生微服务技术负责人李艳林主讲,主题为“AI时代:从Spring Cloud Alibaba到Spring AI Alibaba”。内容涵盖应用架构演进、AI agent框架发展趋势及Spring AI Alibaba的重磅发布。分享介绍了AI原生架构与传统架构的融合,强调了API优先、事件驱动和AI运维的重要性。同时,详细解析了Spring AI Alibaba的三层抽象设计,包括模型支持、工作流智能体编排及生产可用性构建能力,确保安全合规、高效部署与可观测性。最后,结合实际案例展示了如何利用私域数据优化AI应用,提升业务价值。
123 4
|
1月前
|
人工智能 Java API
阿里云工程师跟通义灵码结伴编程, 用Spring AI Alibaba来开发 AI 答疑助手
本次分享的主题是阿里云工程师跟通义灵码结伴编程, 用Spring AI Alibaba来开发 AI 答疑助手,由阿里云两位工程师分享。
阿里云工程师跟通义灵码结伴编程, 用Spring AI Alibaba来开发 AI 答疑助手
|
2月前
|
人工智能 前端开发 Java
Spring AI Alibaba + 通义千问,开发AI应用如此简单!!!
本文介绍了如何使用Spring AI Alibaba开发一个简单的AI对话应用。通过引入`spring-ai-alibaba-starter`依赖和配置API密钥,结合Spring Boot项目,只需几行代码即可实现与AI模型的交互。具体步骤包括创建Spring Boot项目、编写Controller处理对话请求以及前端页面展示对话内容。此外,文章还介绍了如何通过添加对话记忆功能,使AI能够理解上下文并进行连贯对话。最后,总结了Spring AI为Java开发者带来的便利,简化了AI应用的开发流程。
786 0
|
1月前
|
人工智能 自然语言处理 Java
Spring Cloud Alibaba AI 入门与实践
本文将介绍 Spring Cloud Alibaba AI 的基本概念、主要特性和功能,并演示如何完成一个在线聊天和在线画图的 AI 应用。
346 7
|
6月前
|
Java UED Sentinel
微服务守护神:Spring Cloud Sentinel,让你的系统在流量洪峰中稳如磐石!
【8月更文挑战第29天】Spring Cloud Sentinel结合了阿里巴巴Sentinel的流控、降级、熔断和热点规则等特性,为微服务架构下的应用提供了一套完整的流量控制解决方案。它能够有效应对突发流量,保护服务稳定性,避免雪崩效应,确保系统在高并发下健康运行。通过简单的配置和注解即可实现高效流量控制,适用于高并发场景、依赖服务不稳定及资源保护等多种情况,显著提升系统健壮性和用户体验。
122 1
|
2月前
|
Java Nacos Sentinel
Spring Cloud Alibaba:一站式微服务解决方案
Spring Cloud Alibaba(简称SCA) 是一个基于 Spring Cloud 构建的开源微服务框架,专为解决分布式系统中的服务治理、配置管理、服务发现、消息总线等问题而设计。
439 13
Spring Cloud Alibaba:一站式微服务解决方案
|
3月前
|
存储 人工智能 Java
Spring AI Alibaba 配置管理,用 Nacos 就够了
本文通过一些实操案例展示了 Spring AI Alibaba + Nacos 在解决 AI 应用中一系列复杂配置管理挑战的方案,从动态 Prompt 模板的灵活调整、模型参数的即时优化,到敏感信息的安全加密存储。Spring AI Alibaba 简化了对接阿里云通义大模型的流程,内置 Nacos 集成也为开发者提供了无缝衔接云端配置托管的捷径,整体上极大提升了 AI 应用开发的灵活性和响应速度。
471 15
|
3月前
|
人工智能 前端开发 Java
基于开源框架Spring AI Alibaba快速构建Java应用
本文旨在帮助开发者快速掌握并应用 Spring AI Alibaba,提升基于 Java 的大模型应用开发效率和安全性。
382 12
基于开源框架Spring AI Alibaba快速构建Java应用
|
4月前
|
人工智能 Java API
阿里云开源 AI 应用开发框架:Spring AI Alibaba
近期,阿里云重磅发布了首款面向 Java 开发者的开源 AI 应用开发框架:Spring AI Alibaba(项目 Github 仓库地址:alibaba/spring-ai-alibaba),Spring AI Alibaba 项目基于 Spring AI 构建,是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践,提供高层次的 AI API 抽象与云原生基础设施集成方案,帮助开发者快速构建 AI 应用。本文将详细介绍 Spring AI Alibaba 的核心特性,并通过「智能机票助手」的示例直观的展示 Spring AI Alibaba 开发 AI 应用的便利性。示例源
2982 14
|
4月前
|
人工智能 开发框架 Java
总计 30 万奖金,Spring AI Alibaba 应用框架挑战赛开赛
Spring AI Alibaba 应用框架挑战赛邀请广大开发者参与开源项目的共建,助力项目快速发展,掌握 AI 应用开发模式。大赛分为《支持 Spring AI Alibaba 应用可视化调试与追踪本地工具》和《基于 Flow 的 AI 编排机制设计与实现》两个赛道,总计 30 万奖金。
150 10