服务雪崩效应产生的背景|学习笔记

简介: 快速学习服务雪崩效应产生的背景

开发者学堂课程【精通 Spring Cloud Alibaba服务隔离机制信号量与线程池隔离】学习笔记,与课程紧密联系,让用户快速学习知识

课程地址:https://developer.aliyun.com/learning/course/634/detail/10133


服务雪崩效应


默认情况下,tomcat/jetty 服务器只会有一个线程池处理所有接口的请求。

会出现一个如下问题:

这种在高并发的情况下,如果客户端所有的请求都堆积到同一个接口上,那么会产生该服务器的所有的线程都在处理该接口,可能会导致其他的接口无法访问,相当于短暂没有线程处理。

例如:

图片1.png

Tomcat 服务器默认情况下只有一个线程池维护我们所有线程。

假设线程池数量是为20,客户端同时发出100个请求到 userOrdertoMember 接口,另一个客户端访问 smsOrder 接口,现在线程池数量是为20,所以现在最多只有20个线程去处理请求,但是现在客户端发出了101个请求。

100个请求先访问到 userOrdertoMember 接口,至少是有81个接口在等待,而且很有可能会导致 smsOrder 接口无法访问。

因为相当于我们现在所有请求都是在处理 userOrdertoMember 接口100个请求,没有空闲去处理 smsOrder 接口,相当于别人在访问 smsOrder 接口时会转圈,

OrdertoMember 接口:

@Reques tMapping( "/orderToMemer" )

public String orderToUserMemer() {

try {

//模拟调用其他接口

Thread. sLeep( millis: 500);

} catch (Exception e) {

}

log. info(">>>" + Thread. currentThread() . getName() + "<<<");

return"订单调用会员成功";

处理会花费0.5秒再响应客户端。

smsOrder 接口:

* @return

*/

@RequestMapping( "/smsOrder")

public String smsOrder() {

log. info(">>" + Thread. current Thread(). getName() + "<<<");

return“订单发送短信消息";

}

}

先去访问到 OrdertoMember 接口(重启才能生效),再去访问smsOrder接口,都能访问。

现在比如一个黑客去攻击 OrdertoMember 接口,发出许多请求去访问OrdertoMember 接口,别人正常情况下去调用 smsOrder 接口会出现转圈情况。

因为根本没有限流去处理 smsOrder 接口

现在先创建一个线程组,把线程数设置为50,每个线程发送100个请求,总共发送50 X 100个请求,再去创建HTTP请求,服务器IP地址为127.0.04。

这样访问 smsOrder 接口,会出现转圈,比以前慢了许多。

服务雪崩效应产生原因:

tomcat 服务器只有一个线程池处理我们的接口。

如何去证明我们的 tomcat 服务器只有一个线程池处理我们所有接口的请求?

——打印线程名称  

线程名称组合:

线程池名称+线程 id 名称

相关文章
|
6月前
|
人工智能 搜索推荐 vr&ar
开源单图生成3D模型TripoSR的未来发展方向
【2月更文挑战第27天】开源单图生成3D模型TripoSR的未来发展方向
144 2
开源单图生成3D模型TripoSR的未来发展方向
多种模态控制的背景生成技术
在保持输入主体不变的情况下生成背景的需求广泛存在,可用于海报生成、商品换背景多种场景。本文介绍一种使用扩散模型生成背景的技术,背景生成内容可接受图像、文字prompt和图像边缘edge等3中不同的引导方式,这些引导方式可以组合使用,灵活的控制生成背景的内容。该模型具有很好的通用性,对主体内容无限制,适用各种不同的图像主体,例如各类商品、动物甚至人像等。
290 0
|
机器学习/深度学习 编解码 vr&ar
一键生成山川、河流,风格多样,从2D图像中学习生成无限3D场景
一键生成山川、河流,风格多样,从2D图像中学习生成无限3D场景
166 0
|
机器学习/深度学习 算法 计算机视觉
|
机器学习/深度学习 存储 算法
自适应共振网络理论-2|学习笔记
快速学习自适应共振网络理论-2
269 0
自适应共振网络理论-2|学习笔记
|
Java 开发者 微服务
服务雪崩效应|学习笔记
快速学习服务雪崩效应
106 0
服务雪崩效应|学习笔记
|
机器学习/深度学习 人工智能 算法
深度强化学习-运动规划(1)|学习笔记
快速学习深度强化学习-运动规划(1)
192 0
深度强化学习-运动规划(1)|学习笔记
|
机器学习/深度学习 存储 人工智能
深度强化学习-运动规划(2)|学习笔记
快速学习深度强化学习-运动规划(2)
131 0
深度强化学习-运动规划(2)|学习笔记
|
机器学习/深度学习 移动开发 人工智能
深度强化学习-运动规划(3)|学习笔记
快速学习深度强化学习-运动规划(3)
197 0
深度强化学习-运动规划(3)|学习笔记
项目实战:Qt球机控制工具 v1.0.0(球机运动八个方向以及运动速度,设置运动到指定角度,查询当前水平和垂直角度)
项目实战:Qt球机控制工具 v1.0.0(球机运动八个方向以及运动速度,设置运动到指定角度,查询当前水平和垂直角度)
项目实战:Qt球机控制工具 v1.0.0(球机运动八个方向以及运动速度,设置运动到指定角度,查询当前水平和垂直角度)