运营的狂欢,运维的灾难——如何快速应对流量狂刷高带来的并发?

本文涉及的产品
应用型负载均衡 ALB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
简介:

新闻媒体不会错过每一个新闻热点,从重大战略决策公布到明星八卦新闻,从金融股市波动到医疗卫生安全,引爆性新闻热点在带来大规模流量吸引众人眼球的同时,对于背后的IT情况也是一重艰巨的考验。

多数高并发,流量狂刷的情况,一般都是一些新闻推送导致,特别是一些突发性新闻。在此情况下会出现IIS连接数过高(5000)、内网流量过高(将近100Mbps)的高并发异常问题,如下图所示:

alt text

图中所示的情况,多个 web 最大连接数出现5000,但是有 web 最大连接数为0。我们可以从哪些思路着手,快速解决问题呢?

出现如上情况,我们可以从以下几个方面着手,快速应对高并发情况:

1、slb转发问题确定

由于在高并发下,转发到某两台web上的IIS连接数相比其他web的iis连接数不一致。所以我们初步怀疑,在面对高并发的情况下,SLB的转发不均匀。

通过从阿里云那边抓取SLB的HTTP请求的个数,分析数据,初步结果是RT变长,比如原来的请求,200ms完成,突然变成3000ms,所以导致某段时间的http转发数变低。

2、rds性能指标分析

遇到类似高并发问题,需要实时记录rds的性能指标,方便运维人员确定问题究竟出在web端,还是数据库端。

3、web端解决方法

此时通过批量增加web机器来进一步跟踪此问题。现有的机器配置是4核/16G,由于在高并发情况下,web机器性能消耗不是特别明显,所以在新开机器上,选择批量开通4核8G的web机器。

通过以上思路的排查,针对SLB分发不均匀所带来的高并发异常情况,通过增加 web 的方式进行解决,即可解决高并发问题。

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
3月前
|
运维 Cloud Native Devops
云原生架构的崛起与实践云原生架构是一种通过容器化、微服务和DevOps等技术手段,帮助应用系统实现敏捷部署、弹性扩展和高效运维的技术理念。本文将探讨云原生的概念、核心技术以及其在企业中的应用实践,揭示云原生如何成为现代软件开发和运营的主流方式。##
云原生架构是现代IT领域的一场革命,它依托于容器化、微服务和DevOps等核心技术,旨在解决传统架构在应对复杂业务需求时的不足。通过采用云原生方法,企业可以实现敏捷部署、弹性扩展和高效运维,从而大幅提升开发效率和系统可靠性。本文详细阐述了云原生的核心概念、主要技术和实际应用案例,并探讨了企业在实施云原生过程中的挑战与解决方案。无论是正在转型的传统企业,还是寻求创新的互联网企业,云原生都提供了一条实现高效能、高灵活性和高可靠性的技术路径。 ##
231 3
|
4月前
|
运维 监控 搜索推荐
在Linux中,运维人员与运营人员工作职责分别是什么?
在Linux中,运维人员与运营人员工作职责分别是什么?
|
4月前
|
人工智能 运维 网络安全
行业云问题之全栈可观测性技术帮助企业提升运营运维效率如何解决
行业云问题之全栈可观测性技术帮助企业提升运营运维效率如何解决
26 0
|
5月前
|
人工智能 运维
学习若依的好地方,若依社区,好的运维,社区,也可以运营自己的社区,可以用于投放软件产品和海报展示,有空可以研究怎样运行社区,好的标题设计
学习若依的好地方,若依社区,好的运维,社区,也可以运营自己的社区,可以用于投放软件产品和海报展示,有空可以研究怎样运行社区,好的标题设计
|
5月前
|
运维
好的运维,自媒体运营,好的商业模式,好的形势,良好的展示,利用一个域名,展示做好的项目,好的商业模式,星球直播课程,带项目在线地址,管理员账号:aaa 123,文章下面填上一句话可以涨粉的方法
好的运维,自媒体运营,好的商业模式,好的形势,良好的展示,利用一个域名,展示做好的项目,好的商业模式,星球直播课程,带项目在线地址,管理员账号:aaa 123,文章下面填上一句话可以涨粉的方法
|
7月前
|
消息中间件 运维 监控
基于SaaS云部署、云计算的区域医院云HIS系统源码(运维管理+运营管理+综合监管)
医院云his系统采用主流成熟技术开发,B/S架构,软件结构简洁、代码规范易阅读,SaaS应用,全浏览器访问,前后端分离,多服务协同,服务可拆分,功能易扩展。多医院统一登录患者主索引建立、主数据管理,统一对外接口管理。
164 1
|
7月前
|
消息中间件 缓存 运维
云HIS运维运营平台 云HIS解决方案
云HIS重建统一的信息架构体系,重构管理服务流程,重造病人服务环境,向不同类型的医疗机构提供SaaS化HIS服务解决方案。
195 2
|
7月前
|
运维 监控 安全
安全运营之安全加固和运维
安全运营是一个将技术、流程和人有机结合的复杂系统工程,通过对已有安全产品、工具和服务产出的数据进行有效的分析,持续输出价值,解决安全问题,以确保网络安全为最终目标。
342 0
|
7月前
|
Web App开发 编解码 运维
基于SaaS模式的Java基层卫生健康云HIS系统源码【运维管理+运营管理+综合监管】
基于SaaS模式的Java基层卫生健康云HIS系统源码【运维管理+运营管理+综合监管】
108 2
|
7月前
|
消息中间件 运维 Java
基于SaaS模式的Java基层卫生健康云HIS系统源码【运维管理+运营管理+综合监管】
基于SaaS模式的Java基层卫生健康云HIS系统源码【运维管理+运营管理+综合监管】
96 1

热门文章

最新文章