服务雪崩效应产生的背景|学习笔记

简介: 快速学习服务雪崩效应产生的背景

开发者学堂课程【精通 Spring Cloud Alibaba服务隔离机制信号量与线程池隔离】学习笔记,与课程紧密联系,让用户快速学习知识

课程地址:https://developer.aliyun.com/learning/course/634/detail/10133


服务雪崩效应


默认情况下,tomcat/jetty 服务器只会有一个线程池处理所有接口的请求。

会出现一个如下问题:

这种在高并发的情况下,如果客户端所有的请求都堆积到同一个接口上,那么会产生该服务器的所有的线程都在处理该接口,可能会导致其他的接口无法访问,相当于短暂没有线程处理。

例如:

图片1.png

Tomcat 服务器默认情况下只有一个线程池维护我们所有线程。

假设线程池数量是为20,客户端同时发出100个请求到 userOrdertoMember 接口,另一个客户端访问 smsOrder 接口,现在线程池数量是为20,所以现在最多只有20个线程去处理请求,但是现在客户端发出了101个请求。

100个请求先访问到 userOrdertoMember 接口,至少是有81个接口在等待,而且很有可能会导致 smsOrder 接口无法访问。

因为相当于我们现在所有请求都是在处理 userOrdertoMember 接口100个请求,没有空闲去处理 smsOrder 接口,相当于别人在访问 smsOrder 接口时会转圈,

OrdertoMember 接口:

@Reques tMapping( "/orderToMemer" )

public String orderToUserMemer() {

try {

//模拟调用其他接口

Thread. sLeep( millis: 500);

} catch (Exception e) {

}

log. info(">>>" + Thread. currentThread() . getName() + "<<<");

return"订单调用会员成功";

处理会花费0.5秒再响应客户端。

smsOrder 接口:

* @return

*/

@RequestMapping( "/smsOrder")

public String smsOrder() {

log. info(">>" + Thread. current Thread(). getName() + "<<<");

return“订单发送短信消息";

}

}

先去访问到 OrdertoMember 接口(重启才能生效),再去访问smsOrder接口,都能访问。

现在比如一个黑客去攻击 OrdertoMember 接口,发出许多请求去访问OrdertoMember 接口,别人正常情况下去调用 smsOrder 接口会出现转圈情况。

因为根本没有限流去处理 smsOrder 接口

现在先创建一个线程组,把线程数设置为50,每个线程发送100个请求,总共发送50 X 100个请求,再去创建HTTP请求,服务器IP地址为127.0.04。

这样访问 smsOrder 接口,会出现转圈,比以前慢了许多。

服务雪崩效应产生原因:

tomcat 服务器只有一个线程池处理我们的接口。

如何去证明我们的 tomcat 服务器只有一个线程池处理我们所有接口的请求?

——打印线程名称  

线程名称组合:

线程池名称+线程 id 名称

相关文章
|
数据采集 城市大脑 分布式计算
阿里云产业智能OpenTrek技术升级:发布数字孪生仿真技术架构
2022年11月4日,云栖大会——产业智能技术创新与实践峰会于杭州云栖小镇如期举办,本峰会联合中国科学院院士、中国工程院院士、海外院士与行业权威机构,共同探讨产业智能方法论及发展趋势。会上,阿里云产业智能OpenTrek发布了技术升级后的数字孪生仿真技术架构,为行业数字化转型方向的合作伙伴提供全过程状态数据元信息整合能力,帮助行业客户进行业务价值创新。
阿里云产业智能OpenTrek技术升级:发布数字孪生仿真技术架构
开源测试平台横向测评系列『流马』篇:流马使用及总结
【使用篇】 ● 接口测试:创建接口(添加引用公共参数、添加引用自定义参数)、测试用例(参数关联)、业务流程测试实践 ● web自动化测试:元素管理(添加元素)、测试用例(添加元素)、设计测试场景 ● 测试计划、测试集合与测试用例相互之间的关系 【总结篇】 ● 使用总结:常见的使用注意事项,如变量引用、函数引用、关联参数引用等 ● 优化建议:结合真实使用过程,从用户角度出发,提出的7条优化建议 ● 优缺点总结:优点、缺点、评分(从不同角度评测打分)
开源测试平台横向测评系列『流马』篇:流马使用及总结
|
Python
Python3,5句话实现自动接收短信提醒
Python3,5句话实现自动接收短信提醒
626 0
Python3,5句话实现自动接收短信提醒
|
机器学习/深度学习 自然语言处理 算法
利用机器学习算法进行自动化测试
利用机器学习算法进行自动化测试
|
程序员 PHP 数据安全/隐私保护
|
Java
easy-rules规则引擎最佳落地实践
写作目的 这是一个头部互联网公司中的一个问题。因为有很多业务产品线,作为一个新人或者团队外的人员是很难区分不同的产品线之间的区别的,因此需要给某个产品线一个描述。但是随着业务的发展,产品线下可能又根据某个字段进一步划分,那么子产品线就是父产品线 + 字段 去区分。后面根据两个字段划分…。人都麻了。因为不同的组合有不同的链路。因此针对一个产品,我们要提供针对这个产品的具体规则描述,从而减少答疑。
1352 0
easy-rules规则引擎最佳落地实践
|
JSON 缓存 前端开发
MapStruct,降低无用代码的神器
在学习《告别BeanUtils,Mapstruct从入门到精通》后,我发觉MapStruct确实是一个提升系统性能,降低无用代码的神器。然而,在实践这篇文章过程中,我遇到了些问题,并由此对MapStruct框架有了更深入的理解,以下将我的学习收获分享给大家。
794 1
MapStruct,降低无用代码的神器
|
Java 编译器 API
JVM系列之:关于方法句柄的那些事
JVM系列之:关于方法句柄的那些事
356 1
JVM系列之:关于方法句柄的那些事
|
弹性计算 监控 容灾
EDAS 介绍|学习笔记
快速学习 EDAS 介绍
1764 0
EDAS 介绍|学习笔记
|
JavaScript
Vue3+Ts练习小案例——实现追踪鼠标的
本文给大家带来一个Vue3+Ts练习小案例,帮助大家更好的掌握Vue3+Ts的基础
607 0
Vue3+Ts练习小案例——实现追踪鼠标的