PostgreSQL 10.0 preview 功能增强 - 备库支持逻辑订阅, 支持订阅漂移

本文涉及的产品
云数据库 RDS SQL Server,基础系列 2核4GB
RDS PostgreSQL Serverless,0.5-4RCU 50GB 3个月
推荐场景:
对影评进行热评分析
云原生数据库 PolarDB 分布式版,标准版 2核8GB
简介:

标签

PostgreSQL , 10.0 , 主备漂移 , 逻辑复制


背景

逻辑复制的本质是从WAL日志中,翻译出逻辑的数据(ROW),然后同步到下游节点。实际上是一个发布和订阅的流程。

那么有两个问题,

1. 当上游节点使用了流复制搭建主备HA,并且主备发生切换时,下游节点的订阅还能继续吗?

2. 可以使用备库节点作为逻辑复制的上游节点吗?(即物理备库作为逻辑复制的发布节点)

要回答这2个问题,我们要聚焦到WAL日志的翻译工作上。换句话说,备库能不能承担翻译WAL的工作。

翻译WAL要用到什么呢?

1. WAL日志,主库和备库的WAL日志是一样的,所以这个条件是具备的。

2. CATALOG,将WAL翻译成ROW,必须要知道当时的表结构是啥样的。由于表结构可能变化,或者表可能被删除,CATALOG会发生变化,那么这些dead tuple必须要保留到翻译对应的WAL还需要它时。在主库上面,记录了逻辑订阅端的xmin以及catalog xmin,查看pg_replication_slots视图得到,也就知道哪些CATALOG DEAD TUPLE需要被保留。但是备库呢?备库如果要作为逻辑复制的发布者,必须它的订阅者消费的截至catalog xmin(即需要保留的dead tuple)上报给(上报WAL LSN是没用的,因为WAL在主库可能已经清除了)。上报catalog xmin通过什么方法呢?流复制协议即可。

PS:

PostgreSQL的逻辑复制不像MYSQL,MYSQL需要将所有的WAL都翻译成BINLOG,实际上目标可能只订阅一张表,那么就不需要浪费这么多的开销。

PostgreSQL的发布端只需要将被订阅的表产生的WAL翻译成ROW传输给订阅端,这块是很节约空间的。但是请注意,这可能也是CATALOG膨胀的原因之一,比如订阅端一直不订阅,那么这个catalog xmin就一直不动,如果接下来主库发生了大量的表结构变化,或者大量TEMP TABLE的使用(导致了大量的CATALOG垃圾产生),可能导致catalog的膨胀。

好了,进入正题,10.0到底做了什么来支持备库可以作为逻辑复制的发布者?

pic

由于主库保留了所有订阅者中最小的CATALOG XMIN的catalog dead tuple,所以,即使发生了HA,订阅者1,依旧可以漂移到下游节点,继续订阅。

换句话说10.0支持逻辑订阅的漂移了。

10.0流复制协议改进,支持feedback回传catalog xmin

10.0 流复制协议, feedback消息格式如下,支持了备库反馈catalog xmin,支持级联备库,一路反馈到顶端的主库。

https://www.postgresql.org/docs/devel/static/protocol-replication.html

Hot Standby feedback message (F)  
Byte1('h')  
Identifies the message as a Hot Standby feedback message.  
  
Int64  
The client's system clock at the time of transmission, as microseconds since midnight on 2000-01-01.  
  
Int32  
The standby's current global xmin, excluding the catalog_xmin from any replication slots. If both this value and the following catalog_xmin are 0 this is treated as a notification that Hot Standby feedback will no longer be sent on this connection. Later non-zero messages may reinitiate the feedback mechanism.  
  
Int32  
The epoch of the global xmin xid on the standby.  
  
Int32  
The lowest catalog_xmin of any replication slots on the standby. Set to 0 if no catalog_xmin exists on the standby or if hot standby feedback is being disabled.  
  
Int32  
The epoch of the catalog_xmin xid on the standby.  

有了这个协议,备库就能把它的订阅者需要的catalog xmin反馈给上游顶端的主库。主库只要不清理catalog dead tuple,那么物理备库就可以愉快的支持逻辑订阅了。

注意

如果主库频繁的使用临时表,会导致catalog大量的insert, delete(特别是pg_attribute, pg_class,容易膨胀),如果物理备库的级联逻辑备库复制较慢(那么它需要的catalog xmin会更早),可能引发膨胀。

社区有计划推出不在catalog内的临时表,或者持久化临时表。可以解决这个问题。

https://wiki.postgresql.org/wiki/Postgres_Professional_roadmap

Better temporary tables  
  
Temporary tables outside of system catalog  
  
Some applications create temporary tables at a very high rate. In such cases, writing all of these temporary tables to system catalog becomes an issue, as:  
1. System catalog suffers from bloat;  
2. OIDs are consumed at high rate with risk of wraparound.  
The possible solution of this problem is to store temporary table meta-information in memory without touching persistent data structures.  
  
  
Temporary tables on standbys  
  
Temporary tables on standbys is a very frequently asked for feature. Assuming we can store temporary table meta-information in-memory, we can implement single-transaction temporary tables on standbys. In order to implement multi-transaction temporary tables we need to solve the MVCC problem. Currently, standby receives information about xids from master and can't issue any xid itself. The solution could be in introduction of parallel axis of "local xids" on standby.  

这个patch的讨论,详见邮件组,本文末尾URL。

PostgreSQL社区的作风非常严谨,一个patch可能在邮件组中讨论几个月甚至几年,根据大家的意见反复的修正,patch合并到master已经非常成熟,所以PostgreSQL的稳定性也是远近闻名的。

参考

https://git.postgresql.org/gitweb/?p=postgresql.git;a=commit;h=5737c12df0581b3298e3e9586bdef170811ce176

https://www.postgresql.org/message-id/flat/CAMsr+YFi-LV7S8ehnwUiZnb=1h_14PwQ25d-vyUNq-f5S5r=Zg@mail.gmail.com#CAMsr+YFi-LV7S8ehnwUiZnb=1h_14PwQ25d-vyUNq-f5S5r=Zg@mail.gmail.com

https://www.postgresql.org/docs/devel/static/protocol-replication.html

https://blog.2ndquadrant.com/failover-slots-postgresql/

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
相关文章
|
6月前
|
关系型数据库 Serverless 分布式数据库
【公测】PolarDB PostgreSQL版Serverless功能免费使用​!
【公测】PolarDB PostgreSQL版Serverless功能免费使用​,公测于2024年3月28日开始,持续三个月,公测期间可以免费使用!
|
存储 关系型数据库 数据库
深入了解 PostgreSQL:功能、特性和部署
PostgreSQL,通常简称为Postgres,是一款强大且开源的关系型数据库管理系统(RDBMS),它在数据存储和处理方面提供了广泛的功能和灵活性。本文将详细介绍 PostgreSQL 的功能、特性以及如何部署和使用它。
702 1
深入了解 PostgreSQL:功能、特性和部署
|
6月前
|
关系型数据库 Serverless 分布式数据库
PolarDB PostgreSQL版Serverless功能上线公测啦,公测期间免费使用!
Serverless数据库能够使得数据库集群资源随客户业务负载动态弹性扩缩,将客户从复杂的业务资源评估和运维工作中解放出来。PolarDB PostgreSQL版 Serverless提供了CPU、内存、存储、网络资源的实时弹性能力,构建计算与存储分离架构下的 PolarDB PostgreSQL版产品新形态。
|
6月前
|
SQL 关系型数据库 分布式数据库
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能,而不是使用IF函数
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能,而不是使用IF函数
92 7
|
6月前
|
SQL 关系型数据库 分布式数据库
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能【1月更文挑战第13天】【1月更文挑战第65篇】
64 2
|
6月前
|
关系型数据库 Linux Shell
Centos系统上安装PostgreSQL和常用PostgreSQL功能
Centos系统上安装PostgreSQL和常用PostgreSQL功能
|
6月前
|
关系型数据库 数据库 PostgreSQL
PostgreSQL【应用 01】使用Vector插件实现向量相似度查询(Docker部署的PostgreSQL安装pgvector插件说明)和Milvus向量库对比
PostgreSQL【应用 01】使用Vector插件实现向量相似度查询(Docker部署的PostgreSQL安装pgvector插件说明)和Milvus向量库对比
583 1
|
SQL 关系型数据库 MySQL
功能强大的PostgreSQL没有MySQL流行的10个原因
本篇文章总结了为什么功能强大的PostgreSQL没有像MySQL一样流行的10个原因。玖章算术CEO叶正盛从产品功能、技术架构、生态、品牌商业等多个方面进行了分析,并指出了MySQL在流行度上的优势。文章还讨论了数据库在不同领域的竞争力和展望,并提到了PostgreSQL在中国信创产业发展中可能迎来新的机会。总体而言,这篇文章提供了关于MySQL和PostgreSQL的综合比较和评估。
168 0
功能强大的PostgreSQL没有MySQL流行的10个原因
|
关系型数据库 分布式数据库 PolarDB
《阿里云产品手册2022-2023 版》——PolarDB for PostgreSQL
《阿里云产品手册2022-2023 版》——PolarDB for PostgreSQL
365 0
|
存储 缓存 关系型数据库

相关产品

  • 云原生数据库 PolarDB
  • 云数据库 RDS PostgreSQL 版
  • 下一篇
    无影云桌面