弹性伸缩部署

简介:

本文旨在通过介绍弹性伸缩技术以及弹性伸缩系统这款中间件产品,让开发同学了解到运维自动化给我们带来的便捷与保障。

从业务生命周期而言,正处上升期的应用,访问量可能每月甚至每周成指数倍数地增长,当你在为业务快速发展、脱颖而出而畅想自high:哥写得一手牛逼代码即将要支撑起阿里未来五年的腾飞了!!啪,程序运行FGC,啪,调用方超时,啪,触发限流~也许这已经是最近第N次的报警,也许这是最近第N次调用方打电话过来投诉,也许这是最近第N次的扩容……还能不能好好玩耍,专心把代码撸到极致?!业务下降期的应用或许已经不再投入开发,你是否曾想过线上其实早已不需要那么多的机器资源了,如果折算成RMB,这每天到底是有多少张毛爷爷从口袋白白飞走?不能再任性了,快让应用弹起来,让有限的计算资源服务到优质的业务上吧!

一、弹性伸缩的原理

弹性伸缩(Auto Scaling)是根据不同的业务需求与策略,自动调整应用的弹性计算资源,最终达到优化资源组合的服务能力。通过 自动伸缩 和 计划伸缩 这两种工作模式,应用便能在无运维人员介入的情况下实现自动调整计算资源,当访问量上涨时增加计算能力,而当访问量下降时减小计算能力,既保障了系统的稳定性与高可用性,又节约了计算资源成本。

弹性伸缩在业界有两个方向,一个是垂直化的扩展(Scale up),一个水平化的扩展(Scale out)。从业务发展的角度来看应该是水平扩展的能力,这要求业务都是无状态的,通过负载均衡技术将访问请求分配到集群每一台机器上,不管是增加还是减少机器,业务的连续性都不应受到影响。

二、基于弹性伸缩的系统运维架构图


在此模型中,展示层为用户交互,接受和呈现信息,主要表现为:
弹性伸缩监控大盘:用于全局监控接入弹性平台应用的运行状态,以及配置应用的弹性伸缩规则;
应用成本分析展示:用于呈现应用使用的资源成本,包括计算资源、存储资源、网络与带宽资源、CDN资源等;
虚拟计费(待定):通过虚拟货币形式来衡量应用运行的费用开销情况。

逻辑层为运维自动化的核心,主要表现为:
弹性伸缩系统:应用弹性伸缩、虚拟化计算资源调度的智能规则引擎;
自动化部署:新应用上线、集群扩容和缩容的自动化工具;
计算资源分配:虚拟化计算资源的创建与回收的虚拟化基础设施。

资源层为计算、存储、网络、CDN等基础设施资源。

三、计算资源弹性伸缩模型


 

四、弹性伸缩策略

观察模式

模拟弹性伸缩的过程,弹性伸缩系统将会通过旺旺和邮件通知应用负责人以及运维人员什么时候要扩容或缩容、涉及的机器数,但是不会真正触发扩容和缩容的这个动作,此外,还可以在人工确认的情况下,手动触发扩容和缩容。简而言之,观察模式可以理解为应用接入弹性伸缩系统的一重保障。

自动伸缩

根据日常负载情况,计算应用所需的计算资源,以此达到降低成本、提升稳定性的目的。

1.
伸缩范围
最大实例数: 接入弹性前,集群的机器总数
(说明:当前应用有充足机器容量)
最小实例数: max(前七天qps峰值) / 单机QPS极限值 * 60%
(说明:最小实例数,前期阶段不会直接探底,会留有一部分余量)

2.
伸缩规则
扩容条件: 
(1)集群水位超过40%
(2)每个CPU的等待队列长度大于0.5   或   cpu_avg超过50%   或   rt升高百分比超过300%
持续时间超过2分钟


缩容条件: 
(1)集群水位低于13%
(2)每个CPU的等待队列长度小于0.2   与   cpu_avg小于15%
持续时间超过5分钟

3.
期望水位: 35% 

备注:
集群水位 = 集群QPS / (单机QPS极限值 * 机器数)
单机QPS极限能力: csp单机压测值

计划伸缩

计划伸缩也称作定时伸缩,应用场景主要是根据计划提前做好各个系统的容量准备,以便承受可预见的瞬间访问高峰。举个例子,运营同学A准备今天要一次广告投放引流,一大波流量正在逼近!!假如A将预计引流PV总量事前告知弹性伸缩系统,提前将应用容量准备好,多少的流量过来都妥妥的了,真是深藏功与名~

全链路伸缩

复用自动化备战平台功能,根据预计交易创建笔数以及机房流量分配进行系统容量准备。

机器下线规则

  1. 首先计算出应用缩容的机器数量;
  2. 通过CMDB获取到下线机器列表,同时调用发布系统接口将beta机器加入到下线排除机器列表,如果有特殊需要排除的机器,需要在弹性伸缩系统上手动添加;
  3. 分批下线机器,以尽可能减小对业务访问造成抖动。
相关文章
|
Web App开发 数据采集 自然语言处理
python脚本抢各大平台大额优惠卷
python脚本抢各大平台大额优惠卷
1084 0
|
3月前
|
弹性计算 应用服务中间件 Apache
阿里云301重定向全指南:从配置到SEO优化的实战手册
301重定向是HTTP永久跳转技术,用于将旧URL精准迁移至新地址,实现SEO权重近乎100%传递、避免404、统一www/HTTPS等规范。阿里云支持虚拟主机、ECS(Nginx/Apache/IIS)及CDN源站等多种配置方式,是网站改版、域名更换与安全升级的必备实践。
780 0
|
10月前
|
安全 Linux iOS开发
Burp Suite Professional 2025.11 发布,新增功能简介
Burp Suite Professional 2025.11 (macOS, Linux, Windows) - Web 应用安全、测试和扫描
469 1
|
9月前
|
机器学习/深度学习 人工智能 搜索推荐
构建AI智能体:六十、特征工程行业实践录:金融、电商、医疗的智能化转型
本文通过金融风控、电商推荐和医疗诊断三个行业案例,系统阐述了特征工程的实践价值与技术方法。在金融领域,通过构建稳定性评分等特征,将贷款审批坏账率从8.2%显著降低;电商行业通过实时兴趣向量等特征,使推荐点击率提升3倍;医疗领域则利用病变严重度评分等特征,将筛查效率提升5倍。研究揭示了特征工程作为连接业务需求与技术实现的关键桥梁,其核心在于将原始数据转化为机器可理解的业务语言。
671 3
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
AI 智能体简史(万字总结)
Datawhale《Hello-Agents》系列首发!本文系统梳理AI智能体演进史:从符号主义(专家系统、SHRDLU、ELIZA)到心智社会理论,再到联结主义、强化学习,最终融合为LLM驱动的现代智能体。
|
5月前
|
存储 人工智能 弹性计算
购买多个阿里云产品怎么买更便宜?云产品组合购活动,覆盖90%+业务场景,专享组合折扣价
阿里云推出上云场景组合购活动,精选云产品组合,覆盖90%以上上云场景,享受超值折扣。活动包含AI模型服务、15元AI建站、热卖场景组合、经典架构建站、安全上云及数据分析与迁移等多个方面,满足用户多元需求。通过组合购买,用户可以方便快捷地获取所需云产品,享受价格优惠,降低上云成本,同时保障业务的稳定运行与弹性扩展。
|
3月前
|
存储 缓存 监控
跨境电商出海加速方案:基于阿里云CDN与存储优化外贸独立站全球访问性能
外贸独立站常因跨境延迟、资源冗余、缓存粗放等问题导致海外访问卡顿、跳出率高。本文基于阿里云OSS+CDN+云监控,提供轻量、低成本的全球加速方案:静态资源智能压缩托管、多区域节点就近分发、精细化缓存策略、全链路性能监控,全面提升首屏速度与SEO评分。
|
4月前
|
SQL 存储 自然语言处理
本体语义层和预置指标平台在复杂经营分析场景下,为什么准确率差距会越用越大?
从截至2026年5月的行业实践来看,两条路线各有适用边界:预置指标平台更适合业务稳定、指标成熟、建设预算有限的中型组织;本体语义层更适合业务复杂、跨域需求频繁、长期建设导向的大型组织,尤其是央国企、军队军工等对复杂经营分析有高要求的组织。企业在选型时,需要根据自身业务特点、团队能力、预算约束和长期战略进行综合权衡,而非单纯追求技术先进性或成本最低。 总结与展望
|
7月前
|
人工智能 自然语言处理 API
2026年OpenClaw(Clawdbot)零基础攻略:阿里云轻量+本地部署+Skills集成
2026年,OpenClaw(曾用名Clawdbot、Moltbot)凭借轻量化架构、强大的自动化能力和丰富的Skills生态,成为零基础用户搭建专属AI助手的首选工具。其核心优势的在于“零代码入门、全场景适配”,通过Skills模块化插件,可轻松解锁文件处理、数据统计、网页自动化、内容创作等多样化功能,无需复杂开发即可实现“自然语言指令驱动全流程自动化”。本文将从零基础视角出发,完整拆解**2026年阿里云轻量服务器部署**、**本地部署**两大方案,详细讲解Skills的安装、使用与自定义开发,所有代码命令可直接复制执行,全程规避无关云厂商信息,覆盖从环境准备到实战应用的全流程,确保新手也
734 6
|
7月前
|
存储 数据采集 安全
微调与安全隐私 —— 大模型落地的合规必修课
本文聚焦大模型微调中的安全与隐私合规风险,系统剖析数据集、训练、输出三大环节的典型隐患(如敏感信息泄露、版权侵权、模型反演等),提出“脱敏+加密+过滤”全流程防护方案,并推荐合规认证平台与实操工具,助力企业实现技术落地与法律合规双保障。(239字)