《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB MySQL版解析与实践(下)——一、弹性能力(资源池、分时弹性)

简介: 《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB MySQL版解析与实践(下)——一、弹性能力(资源池、分时弹性)

1. 弹性能力:资源池

 

AnalyticDB MySQL版的弹性模式集群版(新版)采取了存储计算分离架构,支持对计算资源进行弹性扩缩。

资源池功能可以对计算资源进行弹性划分,不同资源池之间的计算资源在物理上完全隔离。

通过数据库账号绑定到不同的资源池,SQL查询根据绑定关系路由至对应的资源池进行执行,从而满足实例内部多租户、混合负载的需求。

 

image.png

 

1) 资源池分类

 

a) 默认资源池

 

默认资源池USER_DEFAULT是实例创建时便存在的,不可被删除。

未被分配到用户自定义资源池的计算资源均归属于默认资源池,计算资源不可被直接调整。

未被绑定的AnalyticDB MySQL数据库账号均与默认资源池绑定。

 

b) 自定义资源池

 

用户自定义创建的资源池,可以进行资源池的计算资源、查询执行模式、AnalyticDB MySQL账号与资源池的绑定关系进行修改。

通过资源池管理或CREATE RESOURCE GROUP创建。

 

2) 查询类型

 

集群版新版支持将一个集群资源划分为多个资源池,不同用户绑定到不同的资源池,通过资源池隔离实现计算任务的优先级调度,保障核心业务不受复杂计算和突发状况影响,同时将不同的查询分类,合理分配资源使集群性能达到最大化。

 

在AnalyticDB MySQL数据库中,查询类型有三种:

 

Default_Type:默认查询类型。

Batch:Batch查询类型,适用于数据量较大的复杂查询。

Interactive:Interactive查询类型,适用于延迟要求高的实时分析查询。

 

查询示例

 

问题描述:用户A、B日常进行一些简单查询,用户C会进行数据量较大的复杂查询分析。

解决方案:将用户A、B绑定查询类型为Interactive的资源池source_a,将用户C绑定查询类型为Batch的资源池source_b,用户C在进行大型计算查询时,用户A和用户B进行简单查询的速度不受影响。

 

3) 资源组/资源池(E系列支持)

 

通过CREATE RESOURCE GROUP可以创建资源组,资源组创建DDL样例:

 

CREATE RESOURCE GROUP group_name

[QUERY_TYPE = {interactive, batch}]

[NODE NUM=N]

 

使用场景

实例内部多租户/多部门/多业务需要资源隔离。

 混合负载隔离,避免相互影响。

 

特点

 不同资源组之间的计算资源支持资源在物理上完全隔离。

 支持资源组级别计算资源分时弹性。

 支持存储层流量比例隔离。

 支持配置资源组默认执行模型(interactive or batch)。

 

游戏行业某客户资源组案例

 默认资源组:用于数据在线分析决策,如新用户充值行为、广告投放效果分析、玩家游戏行为分析等。

ETL资源组:用于ETL计算,如数据加工/清洗、维度关联扩展、指标统计聚合等。

 

image.png

 

2. 弹性能力:EIU

 

集群版新版集群采用了存储分离架构,集群的存储资源与计算资源相互独立。弹性IO资源Elastic IO Unit,简称EIU是衡量集群存储性能的元单位,可用于单独扩容存储资源。

 

基于EIU的存储性能指标如下:

 

image.png

 

需要单独扩容弹性IO资源EIU场景:

 

数据导入:购买的计算资源较小,而大量的数据写入导致存储节点I/O先达到瓶颈。

高并发点查:购买的计算资源很小,而高并发点查导致存储CPU成为瓶颈。

 

3. 弹性能力:分时弹性

 

AnalyticDB MySQL数据库支持按小时设置计算资源弹性扩容规则,解决计算资源峰谷需求问题,降低计算资源成本。

 

白天查询业务高峰:白天工作高峰期,准时弹出计算资源,让业务查询更快,提高应用体验。

晚上ETL计算高峰:晚上ETL高峰期,准时弹出计算资源,让ETL计算任务稳定运行,低峰期准时释放,降低资源成本。

 

如下图,在上午8:30至11:30为业务高峰期,此时的负载为70%、QPS为400、响应时间为440ms,通过分时弹性,在业务高峰期将计算资源进行扩容,由原来的64core扩容至256core,来保障业务高峰期的平稳运行;在业务低峰期准时释放资源降低资源使用成本。

 

image.png

 

4. 操作演示-实现AnalyticDB MySQL版

 

(详见第一章实验部分)

相关实践学习
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
相关文章
|
11月前
|
人工智能 关系型数据库 OLAP
光云科技 X AnalyticDB:构建 AI 时代下的云原生企业级数仓
AnalyticDB承载了光云海量数据的实时在线分析,为各个业务线的商家提供了丝滑的数据服务,实时物化视图、租户资源隔离、冷热分离等企业级特性,很好的解决了SaaS场景下的业务痛点,也平衡了成本。同时也基于通义+AnalyticDB研发了企业级智能客服、智能导购等行业解决方案,借助大模型和云计算为商家赋能。
864 17
|
6月前
|
存储 SQL 机器学习/深度学习
一文辨析:数据仓库、数据湖、湖仓一体
本文深入解析数据仓库、数据湖与湖仓一体的技术原理与适用场景。数据仓库结构严谨、查询高效,适合处理结构化数据;数据湖灵活开放,支持多模态数据,但治理难度高;湖仓一体融合两者优势,实现低成本存储与高效分析,适合大规模数据场景。文章结合企业实际需求,探讨如何选择合适的数据架构,并提供湖仓一体的落地迁移策略,助力企业提升数据价值。
一文辨析:数据仓库、数据湖、湖仓一体
|
6月前
|
存储 机器学习/深度学习 数据采集
数据湖 vs 数据仓库:大厂为何总爱“湖仓并用”?
数据湖与数据仓库各有优劣,湖仓一体架构成为趋势。本文解析二者核心差异、适用场景及治理方案,助你选型落地。
数据湖 vs 数据仓库:大厂为何总爱“湖仓并用”?
|
人工智能 关系型数据库 MySQL
AnalyticDB MySQL版:云原生离在线一体化数据仓库支持实时业务决策
AnalyticDB MySQL版是阿里云推出的云原生离在线一体化数据仓库,支持实时业务决策。产品定位为兼具数据库应用性和大数据处理能力的数仓,适用于大规模数据分析场景。核心技术包括混合负载、异构加速、智能弹性与硬件优化及AI集成,支持流批一体架构和物化视图等功能,帮助用户实现高效、低成本的数据处理与分析。通过存算分离和智能调度,AnalyticDB MySQL可在复杂查询和突发流量下提供卓越性能,并结合AI技术提升数据价值挖掘能力。
417 16
|
存储 人工智能 Cloud Native
NAS深度解析:面向云原生应用的文件存储
本文深入解析了面向云原生应用的文件存储NAS,由阿里云专家分享。内容涵盖Cloud Native与AI浪潮下的技术创新,包括高性能、弹性伸缩、成本优化及数据安全等方面。针对云原生应用的特点,NAS在Serverless生态中不断演进,提供多种产品规格以满足不同需求,如极速型NAS、归档存储等,确保用户在高并发场景下获得稳定低延时的存储体验。同时,通过优化挂载参数和容器访问策略,提升整体性能与可用性。
620 11
|
存储 Cloud Native 块存储
EBS深度解析:云原生时代企业级块存储
企业上云的策略,从 Cloud-Hosting 转向 Serverless 架构。块存储作为企业应用上云的核心存储产品,将通过 Serverless 化来加速新的计算范式全面落地。在本话题中,我们将会介绍阿里云块存储企业级能力的创新,深入解析背后的技术细节,分享对未来趋势的判断。
1040 3
|
Kubernetes Cloud Native 云计算
云原生技术深度解析:重塑企业IT架构的未来####
本文深入探讨了云原生技术的核心理念、关键技术组件及其对企业IT架构转型的深远影响。通过剖析Kubernetes、微服务、容器化等核心技术,本文揭示了云原生如何提升应用的灵活性、可扩展性和可维护性,助力企业在数字化转型中保持领先地位。 ####
|
运维 Kubernetes Cloud Native
Kubernetes云原生架构深度解析与实践指南####
本文深入探讨了Kubernetes作为领先的云原生应用编排平台,其设计理念、核心组件及高级特性。通过剖析Kubernetes的工作原理,结合具体案例分析,为读者呈现如何在实际项目中高效部署、管理和扩展容器化应用的策略与技巧。文章还涵盖了服务发现、负载均衡、配置管理、自动化伸缩等关键议题,旨在帮助开发者和运维人员掌握利用Kubernetes构建健壮、可伸缩的云原生生态系统的能力。 ####
|
Kubernetes Cloud Native 调度
云原生批量任务编排引擎Argo Workflows发布3.6,一文解析关键新特性
Argo Workflows是CNCF毕业项目,最受欢迎的云原生工作流引擎,专为Kubernetes上编排批量任务而设计,本文主要对最新发布的Argo Workflows 3.6版本的关键新特性做一个深入的解析。

推荐镜像

更多