服务雪崩效应产生的背景|学习笔记

简介: 快速学习服务雪崩效应产生的背景

开发者学堂课程【精通 Spring Cloud Alibaba服务隔离机制信号量与线程池隔离】学习笔记,与课程紧密联系,让用户快速学习知识

课程地址:https://developer.aliyun.com/learning/course/634/detail/10133


服务雪崩效应


默认情况下,tomcat/jetty 服务器只会有一个线程池处理所有接口的请求。

会出现一个如下问题:

这种在高并发的情况下,如果客户端所有的请求都堆积到同一个接口上,那么会产生该服务器的所有的线程都在处理该接口,可能会导致其他的接口无法访问,相当于短暂没有线程处理。

例如:

图片1.png

Tomcat 服务器默认情况下只有一个线程池维护我们所有线程。

假设线程池数量是为20,客户端同时发出100个请求到 userOrdertoMember 接口,另一个客户端访问 smsOrder 接口,现在线程池数量是为20,所以现在最多只有20个线程去处理请求,但是现在客户端发出了101个请求。

100个请求先访问到 userOrdertoMember 接口,至少是有81个接口在等待,而且很有可能会导致 smsOrder 接口无法访问。

因为相当于我们现在所有请求都是在处理 userOrdertoMember 接口100个请求,没有空闲去处理 smsOrder 接口,相当于别人在访问 smsOrder 接口时会转圈,

OrdertoMember 接口:

@Reques tMapping( "/orderToMemer" )

public String orderToUserMemer() {

try {

//模拟调用其他接口

Thread. sLeep( millis: 500);

} catch (Exception e) {

}

log. info(">>>" + Thread. currentThread() . getName() + "<<<");

return"订单调用会员成功";

处理会花费0.5秒再响应客户端。

smsOrder 接口:

* @return

*/

@RequestMapping( "/smsOrder")

public String smsOrder() {

log. info(">>" + Thread. current Thread(). getName() + "<<<");

return“订单发送短信消息";

}

}

先去访问到 OrdertoMember 接口(重启才能生效),再去访问smsOrder接口,都能访问。

现在比如一个黑客去攻击 OrdertoMember 接口,发出许多请求去访问OrdertoMember 接口,别人正常情况下去调用 smsOrder 接口会出现转圈情况。

因为根本没有限流去处理 smsOrder 接口

现在先创建一个线程组,把线程数设置为50,每个线程发送100个请求,总共发送50 X 100个请求,再去创建HTTP请求,服务器IP地址为127.0.04。

这样访问 smsOrder 接口,会出现转圈,比以前慢了许多。

服务雪崩效应产生原因:

tomcat 服务器只有一个线程池处理我们的接口。

如何去证明我们的 tomcat 服务器只有一个线程池处理我们所有接口的请求?

——打印线程名称  

线程名称组合:

线程池名称+线程 id 名称

相关文章
|
7月前
|
人工智能 搜索推荐 vr&ar
开源单图生成3D模型TripoSR的未来发展方向
【2月更文挑战第27天】开源单图生成3D模型TripoSR的未来发展方向
149 2
开源单图生成3D模型TripoSR的未来发展方向
多种模态控制的背景生成技术
在保持输入主体不变的情况下生成背景的需求广泛存在,可用于海报生成、商品换背景多种场景。本文介绍一种使用扩散模型生成背景的技术,背景生成内容可接受图像、文字prompt和图像边缘edge等3中不同的引导方式,这些引导方式可以组合使用,灵活的控制生成背景的内容。该模型具有很好的通用性,对主体内容无限制,适用各种不同的图像主体,例如各类商品、动物甚至人像等。
299 0
|
机器学习/深度学习 编解码 vr&ar
一键生成山川、河流,风格多样,从2D图像中学习生成无限3D场景
一键生成山川、河流,风格多样,从2D图像中学习生成无限3D场景
171 0
|
机器学习/深度学习 人工智能 算法
AIGC背后的技术分析 | 不止抠图、上色,看人工智能如何影响设计
在人工智能时代下,AR设计、智能硬件设计逐渐发展,设计的改革更多考虑的是如何将真实世界和数字世界进行融合,如何在自己产品上更好地阐释艺术、美感和实用性。
268 0
|
机器学习/深度学习 算法 计算机视觉
|
机器学习/深度学习 人工智能 算法
纯视觉3D检测综述!一文详解3D检测现状、趋势和未来方向!(中)
基于图像的3D目标检测是自动驾驶领域的一个基本问题,也是一个具有挑战性的问题,近年来受到了业界和学术界越来越多的关注。得益于深度学习技术的快速发展,基于图像的3D检测取得了显著的进展。特别是,从2015年到2021年,已经有超过200篇研究这个问题的著作,涵盖了广泛的理论、算法和应用。然而,到目前为止,还没有一个调查来收集和组织这方面的知识。本文首次对这一新兴的不断发展的研究领域进行了全面综述,总结了基于图像的3D检测最常用的流程,并对其各个组成部分进行了深入分析。此外,作者还提出了两个新的分类法,将最先进的方法组织成不同的类别,以期提供更多的现有方法的系统综述,并促进与未来作品的公平比较。
纯视觉3D检测综述!一文详解3D检测现状、趋势和未来方向!(中)
|
机器学习/深度学习 编解码 人工智能
纯视觉3D检测综述!一文详解3D检测现状、趋势和未来方向!(上)
基于图像的3D目标检测是自动驾驶领域的一个基本问题,也是一个具有挑战性的问题,近年来受到了业界和学术界越来越多的关注。得益于深度学习技术的快速发展,基于图像的3D检测取得了显著的进展。特别是,从2015年到2021年,已经有超过200篇研究这个问题的著作,涵盖了广泛的理论、算法和应用。然而,到目前为止,还没有一个调查来收集和组织这方面的知识。本文首次对这一新兴的不断发展的研究领域进行了全面综述,总结了基于图像的3D检测最常用的流程,并对其各个组成部分进行了深入分析。此外,作者还提出了两个新的分类法,将最先进的方法组织成不同的类别,以期提供更多的现有方法的系统综述,并促进与未来作品的公平比较。在
纯视觉3D检测综述!一文详解3D检测现状、趋势和未来方向!(上)
|
机器学习/深度学习 算法 数据挖掘
自适应共振理论网络-1|学习笔记
快速学习自适应共振理论网络-1
自适应共振理论网络-1|学习笔记
|
机器学习/深度学习 存储 算法
自适应共振网络理论-2|学习笔记
快速学习自适应共振网络理论-2
自适应共振网络理论-2|学习笔记
|
机器学习/深度学习 存储 算法
自适应共振理论网络-2 | 学习笔记
快速学习自适应共振理论网络-2 。
自适应共振理论网络-2 | 学习笔记