《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB MySQL版解析与实践(下)——一、弹性能力(资源池、分时弹性)

本文涉及的产品
云解析 DNS,旗舰版 1个月
全局流量管理 GTM,标准版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB MySQL版解析与实践(下)——一、弹性能力(资源池、分时弹性)

1. 弹性能力:资源池

 

AnalyticDB MySQL版的弹性模式集群版(新版)采取了存储计算分离架构,支持对计算资源进行弹性扩缩。

资源池功能可以对计算资源进行弹性划分,不同资源池之间的计算资源在物理上完全隔离。

通过数据库账号绑定到不同的资源池,SQL查询根据绑定关系路由至对应的资源池进行执行,从而满足实例内部多租户、混合负载的需求。

 

image.png

 

1) 资源池分类

 

a) 默认资源池

 

默认资源池USER_DEFAULT是实例创建时便存在的,不可被删除。

未被分配到用户自定义资源池的计算资源均归属于默认资源池,计算资源不可被直接调整。

未被绑定的AnalyticDB MySQL数据库账号均与默认资源池绑定。

 

b) 自定义资源池

 

用户自定义创建的资源池,可以进行资源池的计算资源、查询执行模式、AnalyticDB MySQL账号与资源池的绑定关系进行修改。

通过资源池管理或CREATE RESOURCE GROUP创建。

 

2) 查询类型

 

集群版新版支持将一个集群资源划分为多个资源池,不同用户绑定到不同的资源池,通过资源池隔离实现计算任务的优先级调度,保障核心业务不受复杂计算和突发状况影响,同时将不同的查询分类,合理分配资源使集群性能达到最大化。

 

在AnalyticDB MySQL数据库中,查询类型有三种:

 

Default_Type:默认查询类型。

Batch:Batch查询类型,适用于数据量较大的复杂查询。

Interactive:Interactive查询类型,适用于延迟要求高的实时分析查询。

 

查询示例

 

问题描述:用户A、B日常进行一些简单查询,用户C会进行数据量较大的复杂查询分析。

解决方案:将用户A、B绑定查询类型为Interactive的资源池source_a,将用户C绑定查询类型为Batch的资源池source_b,用户C在进行大型计算查询时,用户A和用户B进行简单查询的速度不受影响。

 

3) 资源组/资源池(E系列支持)

 

通过CREATE RESOURCE GROUP可以创建资源组,资源组创建DDL样例:

 

CREATE RESOURCE GROUP group_name

[QUERY_TYPE = {interactive, batch}]

[NODE NUM=N]

 

使用场景

实例内部多租户/多部门/多业务需要资源隔离。

 混合负载隔离,避免相互影响。

 

特点

 不同资源组之间的计算资源支持资源在物理上完全隔离。

 支持资源组级别计算资源分时弹性。

 支持存储层流量比例隔离。

 支持配置资源组默认执行模型(interactive or batch)。

 

游戏行业某客户资源组案例

 默认资源组:用于数据在线分析决策,如新用户充值行为、广告投放效果分析、玩家游戏行为分析等。

ETL资源组:用于ETL计算,如数据加工/清洗、维度关联扩展、指标统计聚合等。

 

image.png

 

2. 弹性能力:EIU

 

集群版新版集群采用了存储分离架构,集群的存储资源与计算资源相互独立。弹性IO资源Elastic IO Unit,简称EIU是衡量集群存储性能的元单位,可用于单独扩容存储资源。

 

基于EIU的存储性能指标如下:

 

image.png

 

需要单独扩容弹性IO资源EIU场景:

 

数据导入:购买的计算资源较小,而大量的数据写入导致存储节点I/O先达到瓶颈。

高并发点查:购买的计算资源很小,而高并发点查导致存储CPU成为瓶颈。

 

3. 弹性能力:分时弹性

 

AnalyticDB MySQL数据库支持按小时设置计算资源弹性扩容规则,解决计算资源峰谷需求问题,降低计算资源成本。

 

白天查询业务高峰:白天工作高峰期,准时弹出计算资源,让业务查询更快,提高应用体验。

晚上ETL计算高峰:晚上ETL高峰期,准时弹出计算资源,让ETL计算任务稳定运行,低峰期准时释放,降低资源成本。

 

如下图,在上午8:30至11:30为业务高峰期,此时的负载为70%、QPS为400、响应时间为440ms,通过分时弹性,在业务高峰期将计算资源进行扩容,由原来的64core扩容至256core,来保障业务高峰期的平稳运行;在业务低峰期准时释放资源降低资源使用成本。

 

image.png

 

4. 操作演示-实现AnalyticDB MySQL版

 

(详见第一章实验部分)

相关实践学习
AnalyticDB MySQL海量数据秒级分析体验
快速上手AnalyticDB MySQL,玩转SQL开发等功能!本教程介绍如何在AnalyticDB MySQL中,一键加载内置数据集,并基于自动生成的查询脚本,运行复杂查询语句,秒级生成查询结果。
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
相关文章
|
6天前
|
存储 关系型数据库 MySQL
MySQL——数据库备份上传到阿里云OSS存储
MySQL——数据库备份上传到阿里云OSS存储
20 0
|
21天前
|
人工智能 关系型数据库 MySQL
基于阿里云的PolarDB MySQL版实现AI增强数据管理
本文将介绍如何利用阿里云的PolarDB MySQL版结合AI技术,实现数据管理的自动化和智能化。
119 0
|
1月前
|
关系型数据库 MySQL 数据安全/隐私保护
windows mysql8 安装后 提示密码不对,修改下密码认证方式就可以了
windows mysql8 安装后 提示密码不对,修改下密码认证方式就可以了
182 3
|
2天前
|
SQL 关系型数据库 MySQL
实时数仓 Hologres操作报错合集之Flink CTAS Source(Mysql) 表字段从可空改为非空的原因是什么
实时数仓Hologres是阿里云推出的一款高性能、实时分析的数据库服务,专为大数据分析和复杂查询场景设计。使用Hologres,企业能够打破传统数据仓库的延迟瓶颈,实现数据到决策的无缝衔接,加速业务创新和响应速度。以下是Hologres产品的一些典型使用场景合集。
|
1月前
|
缓存 运维 关系型数据库
数据库容灾 | MySQL MGR与阿里云PolarDB-X Paxos的深度对比
经过深入的技术剖析与性能对比,PolarDB-X DN凭借其自研的X-Paxos协议和一系列优化设计,在性能、正确性、可用性及资源开销等方面展现出对MySQL MGR的多项优势,但MGR在MySQL生态体系内也占据重要地位,但需要考虑备库宕机抖动、跨机房容灾性能波动、稳定性等各种情况,因此如果想用好MGR,必须配备专业的技术和运维团队的支持。 在面对大规模、高并发、高可用性需求时,PolarDB-X存储引擎以其独特的技术优势和优异的性能表现,相比于MGR在开箱即用的场景下,PolarDB-X基于DN的集中式(标准版)在功能和性能都做到了很好的平衡,成为了极具竞争力的数据库解决方案。
|
14天前
|
存储 SQL 人工智能
AnalyticDB for MySQL:AI时代实时数据分析的最佳选择
阿里云云原生数据仓库AnalyticDB MySQL(ADB-M)与被OpenAI收购的实时分析数据库Rockset对比,两者在架构设计上有诸多相似点,例如存算分离、实时写入等,但ADB-M在多个方面展现出了更为成熟和先进的特性。ADB-M支持更丰富的弹性能力、强一致实时数据读写、全面的索引类型、高吞吐写入、完备的DML和Online DDL操作、智能的数据生命周期管理。在向量检索与分析上,ADB-M提供更高检索精度。ADB-M设计原理包括分布式表、基于Raft协议的同步层、支持DML和DDL的引擎层、高性能低成本的持久化层,这些共同确保了ADB-M在AI时代作为实时数据仓库的高性能与高性价比
|
1月前
|
SQL 存储 关系型数据库
计算效率提升 30 倍、存储资源节省 90%,雨润集团基于 Apache Doris 的统一实时数据仓库建设实践
数字化转型的浪潮中,高效准确的数据分析能够帮助雨润集团快速洞察市场动态、优化供应链管理、提高生产效率。雨润集团引入了 Apache Doris 构建了统一实时数据仓库,实现了计算效率提升 30 倍、存储资源节省 90%、成本降低超 100 万、人员效率提升 3 倍,为智能化、高效化转型指明了方向。
计算效率提升 30 倍、存储资源节省 90%,雨润集团基于 Apache Doris 的统一实时数据仓库建设实践
|
23天前
|
存储 数据采集 分布式计算
阿里巴巴数据仓库实践:从离线到实时的一体化探索
阿里巴巴的数据仓库实践从离线到实时的一体化探索,不仅为企业自身业务的快速发展提供了有力支撑,也为行业树立了标杆。通过不断优化技术架构、提升数据处理能力、加强数据治理和安全管理,阿里巴巴的实时数仓将为企业创造更大的价值,推动数字化转型的深入发展。未来,随着技术的不断进步和业务的持续拓展,阿里巴巴的实时数仓实践将展现出更加广阔的应用前景和发展空间。
|
1月前
|
关系型数据库 MySQL Serverless
体验阿里云PolarDB MySQL Serverless集群
体验阿里云PolarDB MySQL Serverless集群
|
23天前
|
数据采集 存储 数据管理
OneData:阿里巴巴的数据仓库之旅与统一数据治理实践
OneData 为解决大数据时代的挑战提供了一条可行的道路,对于其他企业和组织来说具有重要的参考意义。随着技术的不断进步和应用场景的扩展,OneData 的未来发展值得期待。

热门文章

最新文章

推荐镜像

更多