个人
登录后您可以获得
加入子社区
评论/点赞/收藏
互动提问讨论
参与专属活动
立即登录

弹性伸缩部署

本文涉及的产品
性能测试 PTS,5000VUM额度
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
简介:

本文旨在通过介绍弹性伸缩技术以及弹性伸缩系统这款中间件产品,让开发同学了解到运维自动化给我们带来的便捷与保障。

从业务生命周期而言,正处上升期的应用,访问量可能每月甚至每周成指数倍数地增长,当你在为业务快速发展、脱颖而出而畅想自high:哥写得一手牛逼代码即将要支撑起阿里未来五年的腾飞了!!啪,程序运行FGC,啪,调用方超时,啪,触发限流~也许这已经是最近第N次的报警,也许这是最近第N次调用方打电话过来投诉,也许这是最近第N次的扩容……还能不能好好玩耍,专心把代码撸到极致?!业务下降期的应用或许已经不再投入开发,你是否曾想过线上其实早已不需要那么多的机器资源了,如果折算成RMB,这每天到底是有多少张毛爷爷从口袋白白飞走?不能再任性了,快让应用弹起来,让有限的计算资源服务到优质的业务上吧!

一、弹性伸缩的原理

弹性伸缩(Auto Scaling)是根据不同的业务需求与策略,自动调整应用的弹性计算资源,最终达到优化资源组合的服务能力。通过 自动伸缩  计划伸缩 这两种工作模式,应用便能在无运维人员介入的情况下实现自动调整计算资源,当访问量上涨时增加计算能力,而当访问量下降时减小计算能力,既保障了系统的稳定性与高可用性,又节约了计算资源成本。

弹性伸缩在业界有两个方向,一个是垂直化的扩展(Scale up),一个水平化的扩展(Scale out)。从业务发展的角度来看应该是水平扩展的能力,这要求业务都是无状态的,通过负载均衡技术将访问请求分配到集群每一台机器上,不管是增加还是减少机器,业务的连续性都不应受到影响。

二、基于弹性伸缩的系统运维架构图


在此模型中,展示层为用户交互,接受和呈现信息,主要表现为:
弹性伸缩监控大盘:用于全局监控接入弹性平台应用的运行状态,以及配置应用的弹性伸缩规则;
应用成本分析展示:用于呈现应用使用的资源成本,包括计算资源、存储资源、网络与带宽资源、CDN资源等;
虚拟计费(待定):通过虚拟货币形式来衡量应用运行的费用开销情况。

逻辑层为运维自动化的核心,主要表现为:
弹性伸缩系统:应用弹性伸缩、虚拟化计算资源调度的智能规则引擎;
自动化部署:新应用上线、集群扩容和缩容的自动化工具;
计算资源分配:虚拟化计算资源的创建与回收的虚拟化基础设施。

资源层为计算、存储、网络、CDN等基础设施资源。

三、计算资源弹性伸缩模型


 

四、弹性伸缩策略

观察模式

模拟弹性伸缩的过程,弹性伸缩系统将会通过旺旺和邮件通知应用负责人以及运维人员什么时候要扩容或缩容、涉及的机器数,但是不会真正触发扩容和缩容的这个动作,此外,还可以在人工确认的情况下,手动触发扩容和缩容。简而言之,观察模式可以理解为应用接入弹性伸缩系统的一重保障。

自动伸缩

根据日常负载情况,计算应用所需的计算资源,以此达到降低成本、提升稳定性的目的。

1.
伸缩范围
最大实例数: 接入弹性前,集群的机器总数
(说明:当前应用有充足机器容量)
最小实例数: max(前七天qps峰值) / 单机QPS极限值 * 60%
(说明:最小实例数,前期阶段不会直接探底,会留有一部分余量)

2.
伸缩规则
扩容条件
1)集群水位超过40%
2)每个CPU的等待队列长度大于0.5     cpu_avg超过50%     rt升高百分比超过300%
持续时间超过2分钟


缩容条件
1)集群水位低于13%
2)每个CPU的等待队列长度小于0.2      cpu_avg小于15%
持续时间超过5分钟

3.
期望水位: 35% 

备注:
集群水位 = 集群QPS / (单机QPS极限值 * 机器数)
单机QPS极限能力: csp单机压测值

计划伸缩

计划伸缩也称作定时伸缩,应用场景主要是根据计划提前做好各个系统的容量准备,以便承受可预见的瞬间访问高峰。举个例子,运营同学A准备今天要一次广告投放引流,一大波流量正在逼近!!假如A将预计引流PV总量事前告知弹性伸缩系统,提前将应用容量准备好,多少的流量过来都妥妥的了,真是深藏功与名~

全链路伸缩

复用自动化备战平台功能,根据预计交易创建笔数以及机房流量分配进行系统容量准备。

机器下线规则

  1. 首先计算出应用缩容的机器数量;
  2. 通过CMDB获取到下线机器列表,同时调用发布系统接口将beta机器加入到下线排除机器列表,如果有特殊需要排除的机器,需要在弹性伸缩系统上手动添加;
  3. 分批下线机器,以尽可能减小对业务访问造成抖动。
目录
打赏
0
10
12
36
13399
分享
相关文章
|
10月前
|
SpringBoot用maven打出的jar只有几kb解决
SpringBoot用maven打出的jar只有几kb解决
562 0
图文详解:DataHub产品概述
阿里云流数据处理平台DataHub是流式数据(Streaming Data)的处理平台,提供对流式数据的发布 (Publish),订阅 (Subscribe)和分发功能,让您可以轻松构建基于流式数据的分析和应用。
2931 0
一站式链路追踪:阿里云的端到端解决方案
端到端链路追踪是覆盖全部关联 IT 系统,能够完整记录用户行为在系统间调用路径与状态的最佳实践方案。而真正实现端到端链路追踪,需要解决三个难题:链路插桩、链路采集与加工、链路上下文透传。阿里云 ARMS 目前已支持全链路端到端追踪,快来查看转发吧~
61508 17
使用对比!SLS 数据加工 SPL 与旧版 DSL 场景对照
本文讨论在不同的数据处理需求中,新版数据加工 SPL 与旧版数据加工 DSL 的使用对照。
7512 21
|
4月前
|
配置中心的优势是什么?
【10月更文挑战第24天】配置中心的优势是什么?
138 1
2024 Mysql基础与进阶操作系列之MySQL触发器详解(21)作者——LJS[你个小黑子这都还学不会嘛?你是真爱粉嘛?真是的 ~;以后请别侮辱我家鸽鸽]
MySQL触发器的使用场景之数据完整性约束、如何具体创建person的日志表、触发器与存储过程的对比与选择、触发器的性能和注意事项等具体操作详解步骤;举例说明、注意点及常见报错问题所对应的解决方法
如何画出规范的 UML 用例图
如果你在做设计过程中有一些困惑,如:不会找用例、两个用例图分不清楚、不知道自己画的对不对。那么希望本文能帮助厘清上面几个问题,真正掌握用例图,在后面的设计中能运用的得心应手。
如何画出规范的 UML 用例图
ECS使用体验
在跟着老师做项目的过程中,经常会涉及到对于linux服务器的一些配置与操作,一次偶然的机遇,老师将阿里云的飞天加速计划推荐给了我,这是我第一次用阿里云,之前都是在学校的服务器上进行试验,第一次使用,带给了我很多新奇的体验与感受。
Kruise Rollout:灵活可插拔的渐进式发布框架
Kruise Rollout 是 OpenKruise 社区开源的渐进式交付框架。Kruise Rollout 支持配合流量和实例灰度的金丝雀发布、蓝绿发布、A/B Testing 发布,以及发布过程能够基于 Prometheus Metrics 指标自动化分批与暂停,并提供旁路的无感对接、兼容已有的多种工作负载(Deployment、CloneSet、DaemonSet)。近期也在《2022 开放原子全球开源峰会》上面做了主题分享,以下是主要内容。
Kruise Rollout:灵活可插拔的渐进式发布框架