服务雪崩效应产生的背景|学习笔记

简介: 快速学习服务雪崩效应产生的背景

开发者学堂课程【精通 Spring Cloud Alibaba服务隔离机制信号量与线程池隔离】学习笔记,与课程紧密联系,让用户快速学习知识

课程地址:https://developer.aliyun.com/learning/course/634/detail/10133


服务雪崩效应


默认情况下,tomcat/jetty 服务器只会有一个线程池处理所有接口的请求。

会出现一个如下问题:

这种在高并发的情况下,如果客户端所有的请求都堆积到同一个接口上,那么会产生该服务器的所有的线程都在处理该接口,可能会导致其他的接口无法访问,相当于短暂没有线程处理。

例如:

图片1.png

Tomcat 服务器默认情况下只有一个线程池维护我们所有线程。

假设线程池数量是为20,客户端同时发出100个请求到 userOrdertoMember 接口,另一个客户端访问 smsOrder 接口,现在线程池数量是为20,所以现在最多只有20个线程去处理请求,但是现在客户端发出了101个请求。

100个请求先访问到 userOrdertoMember 接口,至少是有81个接口在等待,而且很有可能会导致 smsOrder 接口无法访问。

因为相当于我们现在所有请求都是在处理 userOrdertoMember 接口100个请求,没有空闲去处理 smsOrder 接口,相当于别人在访问 smsOrder 接口时会转圈,

OrdertoMember 接口:

@Reques tMapping( "/orderToMemer" )

public String orderToUserMemer() {

try {

//模拟调用其他接口

Thread. sLeep( millis: 500);

} catch (Exception e) {

}

log. info(">>>" + Thread. currentThread() . getName() + "<<<");

return"订单调用会员成功";

处理会花费0.5秒再响应客户端。

smsOrder 接口:

* @return

*/

@RequestMapping( "/smsOrder")

public String smsOrder() {

log. info(">>" + Thread. current Thread(). getName() + "<<<");

return“订单发送短信消息";

}

}

先去访问到 OrdertoMember 接口(重启才能生效),再去访问smsOrder接口,都能访问。

现在比如一个黑客去攻击 OrdertoMember 接口,发出许多请求去访问OrdertoMember 接口,别人正常情况下去调用 smsOrder 接口会出现转圈情况。

因为根本没有限流去处理 smsOrder 接口

现在先创建一个线程组,把线程数设置为50,每个线程发送100个请求,总共发送50 X 100个请求,再去创建HTTP请求,服务器IP地址为127.0.04。

这样访问 smsOrder 接口,会出现转圈,比以前慢了许多。

服务雪崩效应产生原因:

tomcat 服务器只有一个线程池处理我们的接口。

如何去证明我们的 tomcat 服务器只有一个线程池处理我们所有接口的请求?

——打印线程名称  

线程名称组合:

线程池名称+线程 id 名称

目录
打赏
0
0
0
0
55
分享
相关文章
kde
|
5天前
|
Docker镜像加速指南:手把手教你配置国内镜像源
配置国内镜像源可大幅提升 Docker 拉取速度,解决访问 Docker Hub 缓慢问题。本文详解 Linux、Docker Desktop 配置方法,并提供测速对比与常见问题解答,附最新可用镜像源列表,助力高效开发部署。
kde
3097 8
国内如何安装和使用 Claude Code镜像教程 - Windows 用户篇
国内如何安装和使用 Claude Code镜像教程 - Windows 用户篇
569 0
Dify MCP 保姆级教程来了!
大语言模型,例如 DeepSeek,如果不能联网、不能操作外部工具,只能是聊天机器人。除了聊天没什么可做的。
836 9
2025年最新版最细致Maven安装与配置指南(任何版本都可以依据本文章配置)
本文详细介绍了Maven的项目管理工具特性、安装步骤和配置方法。主要内容包括: Maven概述:解释Maven作为基于POM的构建工具,具备依赖管理、构建生命周期和仓库管理等功能。 安装步骤: 从官网下载最新版本 解压到指定目录 创建本地仓库文件夹 关键配置: 修改settings.xml文件 配置阿里云和清华大学镜像仓库以加速依赖下载 设置本地仓库路径 附加说明:包含详细的配置示例和截图指导,适用于各种操作系统环境。 本文提供了完整的Maven安装和配置
2025年最新版最细致Maven安装与配置指南(任何版本都可以依据本文章配置)
【保姆级图文详解】大模型、Spring AI编程调用大模型
【保姆级图文详解】大模型、Spring AI编程调用大模型
353 7
【保姆级图文详解】大模型、Spring AI编程调用大模型
Excel数据治理新思路:引入智能体实现自动纠错【Python+Agent】
本文介绍如何利用智能体与Python代码批量处理Excel中的脏数据,解决人工录入导致的格式混乱、逻辑错误等问题。通过构建具备数据校验、异常标记及自动修正功能的系统,将数小时的人工核查任务缩短至分钟级,大幅提升数据一致性和办公效率。
DeepSeek R1+Open WebUI实现本地知识库的搭建和局域网访问
本文介绍了使用 DeepSeek R1 和 Open WebUI 搭建本地知识库的详细步骤与注意事项,涵盖核心组件介绍、硬件与软件准备、模型部署、知识库构建及问答功能实现等内容,适用于本地文档存储、向量化与检索增强生成(RAG)场景的应用开发。
367 0
让AI时代的卓越架构触手可及,阿里云技术解决方案开放免费试用
阿里云推出基于场景的解决方案免费试用活动,新老用户均可领取100点试用点,完成部署还可再领最高100点,相当于一年可获得最高200元云资源。覆盖AI、大数据、互联网应用开发等多个领域,支持热门场景如DeepSeek部署、模型微调等,助力企业和开发者快速验证方案并上云。
305 22
让AI时代的卓越架构触手可及,阿里云技术解决方案开放免费试用
FLUX.1 Kontext 的全生态教程来啦!AIGC专区在线试玩!
Flux.1 Kontext [dev] 开源模型大家都用上了吗?小编汇总了3个使用教程,打包送上!
420 1

热门文章

最新文章

AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等