《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB PostgreSQL版解析与实践(上)——三、产品相关概念(下)

本文涉及的产品
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
对象存储 OSS,20GB 3个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB PostgreSQL版解析与实践(上)——三、产品相关概念(下)

更多精彩内容,欢迎观看:《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB PostgreSQL版解析与实践(上)——三、产品相关概念(中):

https://developer.aliyun.com/article/1222911?spm=a2c6h.13148508.setting.17.75bf4f0e5XwXp0


1. 备份恢复

 

1) 技术原理介绍

 

基础备份+日志归档+一致性恢复点=集群恢复

 

基础备份:ADB PG集群物理基础备份,不会阻塞用户业务执行,因此,集群的基础备份期间,依然会产生大量WAL日志。

日志归档:集群恢复需要WAL持续归档。

一致性恢复点:通过在数据库的访问入口处(QD节点)独占获取事务提交锁,阻塞其他事务的提交,从而保证恢复点创建时刻的集群事务一致性。

集群恢复:通过一致性恢复点,恢复时,将集群各个节点对齐到事务一致的数据库状态。

 

2) 基础备份

 

image.png

 

基础备份又称全量备份,是对整个集群的所有primary节点(包括master,但不包括secondary master)进行全量数据备份。

公有云默认备份到OSS。

备份不阻塞业务,备份期间产生的增量WAL日志由归档操作保证备份到OSS。

备份期间,会自动重新备份异常的节点,如主备切换、连接异常等情况。

备份完成后,创建一致性恢复点,作为恢复时的恢复目标,以保证恢复集群一致性。

 

3) 日志备份

 

image.png

 

日志备份,又称增量备份。通过归档命令,对集群的所有primary节点上的WAL日志段进行备份

公有云默认备份到OSS。

 

4) 创建一致性恢复点

 

image.png 

 

请求创建一致性恢复点:

ü 独占申请两阶段提交锁,阻塞其他分布式事务提交。

ü Master节点创建恢复点。

ü Segment节点创建恢复点。

ü 释放两阶段提交锁。

ü 等待恢复点WAL日志归档。

 

通过分布式提交锁,确保恢复点创建时刻的集群事务一致性。

一致性恢复点在集群的每个primary节点新增一条WAL日志记录。

只有完成WAL日志归档的一致性恢复点,才能够用于分布式集群的归档恢复。

 

5) 恢复新实例

 

image.png

 

并行从OSS下载基本备份。

更新集群拓扑结构,并重启集群。

设置一致性恢复点作为恢复目标。

添加高可用备机,完成恢复。

持续下载并恢复归档的WAL日志。

 

2. 资源隔离

 

1) 资源管理简介

 

ADB PG实例资源包括:CPU、IO、内存、并发连接、查询计划。

 

常见资源问题

 并发连接数被占满,无法接受连接

 内存超过可用内存范围,进程被杀死

 IO带宽争用导致查询和写入性能下降

 

资源管理方案

 资源队列Resource Queue:使用最多的是并行度和CPU优先级的设置

 资源组Resource GroupCPU

 

2) 资源队列技术介绍

 

资源队列能够对数据库的CPU、内存等资源进行限制,对多租户资源限制、保障数据库稳定运行具有一定的作用

支持进行四种类型的资源限制:并发限制、CPU限制、内存限制和查询计划限制。

 

image.png

 

3) 创建资源队列示例

CREATE RESOURCE QUEUE name WITH (queue_attribute=value[ ... ])where queue attribute is
ACTIVE_STATEMENTS=integer
[MAX_COST=float [COST_OVERCOMMIT={TRUE|FALSE}]]
MINCOST=float]
[PRIORITY={MIN|LOW|MEDIUM|HIGH|MAX}]
[MEMORY_LIMIT='memory_units']

  

=# CREATE RESOURCE QUEUE adhoc WITH(ACTIVE STATEMENTS=3);创建带有并发限制的队列

创建带有内存限制的队列CREATE RESOURCE QUEUE myqueue WITH(ACIIVESTATEMENIS=20,MEMORY_LIMIT='2000MB');

=# CREATE RESOURCE QUEUE executive WITH (ACTIVE_STATEMENTS=3, PRIORITY=MAX); 设置优先级

 

4) 指派角色(用户)到资源队列

 

指派角色到优先级队列

ü 一旦创建了一个资源队列,用户必须把角色(用户)指派到它们合适的资源队列。

ü 如果没有显式地把角色指派资源队列,它们将进入默认资源队列pg_default。默认资源队列的活动语句限制是20,没有代价限制。

 

=# ALTER ROLE name RESOURCE QUEUE queuename;
=# CREATE ROLE name WITH LOGIN RESOURCE QUEUE queue_name;

 

从资源队列移除角色

 

如果用户想要从一个资源队列移除一个角色并且把它们放在默认队列中,可以将该角色的队列指派改成none。例如:

=#ALTER ROLE role name RESOURCE QUEUE none;

  

修改资源队列配置

 

ALTER RESOURCE QUEUE命令更改资源队列的限制。

=# AITER RESOURCE QUEUE adhoc WITH(ACIIVE_STATEMENTS=5);
=# ALTER RESOURCE QUEUE exec WITH (PRIORITY=MAX);

  

删除资源队列

 

DROP RESOURCE QUEUE命令可以删除资源队列。要删除一个资源队列,该队列不能有指派给它的角色,也不能有任何语句在其中等待。

 

5) 状态监控

 

查看队列中的语句和资源队列状态

 gp_toolkit.gp_resqueue_status视图允许管理员查看一个负载管理资源队列的状态和活动。

 语句:

SELECT*FROM gp_toolkit.gp_resqueue_status

  

查看资源队列统计信息

 如果想要持续跟踪资源队列的统计信息和性能,用户可以使用pg_stat_resqueues系统视图来查看在资源队列使用上收集的统计信息。

 语句:

SELECT * FROM pg_stat_resqueues

  

查看指派到资源队列的角色

 要查看指派给资源队列的角色,执行下列在pg_roles和gp_toolkit.gp_resqueue_status系统目录表。

 语句:

SELECT rolname, rsqname FROMpg_roles, gp_toolkit.gp_resqueue_status WHERE  pgroles.rolresqueue=gptoolkit.gp resqueue status.queueid

  

查看资源队列的等待查询

 用户可以看到所有资源队列的所有当前活跃的以及在等待的查询。

 语句:

SELECT * FROM gp_toolkit.gp_locks_on_resqueue WHERE  lorwaiting='true'

  

查看活动语句的优先权

 查看当前正在被执行的语句并且提供优先权、会话ID和其他信息。

 语句:

SELECT * FROM gp_toolkit.gp_resq_priority_statementSELECT * FROM gp_toolkit.gp_resq_priority_statement

  

重置活动语句的优先权

 gp_adjust_priority(session_id,statement_count,priority)调整当前正在被执行的语句的优先权。使用这个函数,超级用户可以提升或者降低任意查询的优先权。

 语句:

SELECT gp_adjust_priority(752,24905,'HIGH')

 

相关实践学习
阿里云百炼xAnalyticDB PostgreSQL构建AIGC应用
通过该实验体验在阿里云百炼中构建企业专属知识库构建及应用全流程。同时体验使用ADB-PG向量检索引擎提供专属安全存储,保障企业数据隐私安全。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
相关文章
|
3月前
|
自然语言处理 数据可视化 API
淘宝商品评论 API 接口:深度解析用户评论,优化产品与服务
淘宝是领先的中国电商平台,其API为开发者提供商品信息、交易记录及用户评价等数据访问服务。对于获授权的开发者和商家,可通过申请API权限、获取并解析评论数据来进行情感分析和统计,进而优化产品设计、提升服务质量、增强用户互动及调整营销策略。未授权用户可能受限于数据访问。
|
3月前
|
开发工具 Android开发 开发者
移动应用开发之旅:从概念到市场的全景解析
在数字化浪潮的推动下,移动应用成为了我们日常生活的一部分。本文将带你穿越移动应用开发的迷宫,探索那些让应用从一个简单的想法变成数百万用户手中宝贝的秘密。我们将一探究竟,了解移动操作系统的基础、开发工具的选择、设计原则的应用,以及市场策略的实施。无论你是开发者还是对移动应用充满好奇的旁观者,这篇文章都将为你揭示移动应用背后的魔法。
50 0
|
1月前
|
机器学习/深度学习 自然语言处理 JavaScript
信息论、机器学习的核心概念:熵、KL散度、JS散度和Renyi散度的深度解析及应用
在信息论、机器学习和统计学领域中,KL散度(Kullback-Leibler散度)是量化概率分布差异的关键概念。本文深入探讨了KL散度及其相关概念,包括Jensen-Shannon散度和Renyi散度。KL散度用于衡量两个概率分布之间的差异,而Jensen-Shannon散度则提供了一种对称的度量方式。Renyi散度通过可调参数α,提供了更灵活的散度度量。这些概念不仅在理论研究中至关重要,在实际应用中也广泛用于数据压缩、变分自编码器、强化学习等领域。通过分析电子商务中的数据漂移实例,展示了这些散度指标在捕捉数据分布变化方面的独特优势,为企业提供了数据驱动的决策支持。
63 2
信息论、机器学习的核心概念:熵、KL散度、JS散度和Renyi散度的深度解析及应用
|
19天前
|
算法 Java 数据库连接
Java连接池技术,从基础概念出发,解析了连接池的工作原理及其重要性
本文详细介绍了Java连接池技术,从基础概念出发,解析了连接池的工作原理及其重要性。连接池通过复用数据库连接,显著提升了应用的性能和稳定性。文章还展示了使用HikariCP连接池的示例代码,帮助读者更好地理解和应用这一技术。
31 1
|
23天前
|
监控 数据挖掘 OLAP
深入解析:AnalyticDB中的高级查询优化与性能调优
【10月更文挑战第22天】 AnalyticDB(ADB)是阿里云推出的一款实时OLAP数据库服务,它能够处理大规模的数据分析任务,提供亚秒级的查询响应时间。对于已经熟悉AnalyticDB基本操作的用户来说,如何通过查询优化和性能调优来提高数据处理效率,是进一步提升系统性能的关键。本文将从个人的角度出发,结合实际经验,深入探讨AnalyticDB中的高级查询优化与性能调优技巧。
60 4
|
21天前
|
消息中间件 存储 负载均衡
Apache Kafka核心概念解析:生产者、消费者与Broker
【10月更文挑战第24天】在数字化转型的大潮中,数据的实时处理能力成为了企业竞争力的重要组成部分。Apache Kafka 作为一款高性能的消息队列系统,在这一领域占据了重要地位。通过使用 Kafka,企业可以构建出高效的数据管道,实现数据的快速传输和处理。今天,我将从个人的角度出发,深入解析 Kafka 的三大核心组件——生产者、消费者与 Broker,希望能够帮助大家建立起对 Kafka 内部机制的基本理解。
51 2
|
1月前
|
存储 NoSQL MongoDB
MongoDB 概念解析
10月更文挑战第12天
20 0
MongoDB 概念解析
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
Transformer图解以及相关的概念解析
前言 transformer是目前NLP甚至是整个深度学习领域不能不提到的框架,同时大部分LLM也是使用其进行训练生成模型,所以transformer几乎是目前每一个机器人开发者或者人工智能开发者不能越过的一个框架。接下来本文将从顶层往下去一步步掀开transformer的面纱。 transformer概述 Transformer模型来自论文Attention Is All You Need。 在论文中最初是为了提高机器翻译的效率,它使用了Self-Attention机制和Position Encoding去替代RNN。后来大家发现Self-Attention的效果很好,并且在其它的地
|
1月前
|
JSON 关系型数据库 API
ElasticSearch 的概念解析与使用方式(二)
ElasticSearch 的概念解析与使用方式(二)
25 1
|
1月前
|
存储 搜索推荐 Java
ElasticSearch 的概念解析与使用方式(一)
ElasticSearch 的概念解析与使用方式(一)
58 1

热门文章

最新文章