PostgreSQL 优化CASE - 有序UUID插件

本文涉及的产品
云原生数据库 PolarDB 分布式版,标准版 2核8GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS PostgreSQL Serverless,0.5-4RCU 50GB 3个月
推荐场景:
对影评进行热评分析
简介: 标签PostgreSQL , uuid , 无序uuid , 索引分裂 , io , 性能诊断背景无序UUID会带来很多问题,例如索引分裂膨胀,离散IO,WAL膨胀等,详见以前的分析。Regular random UUIDs are distributed uniformly over the whole range of possible values.

标签

PostgreSQL , uuid , 无序uuid , 索引分裂 , io , 性能诊断


背景

无序UUID会带来很多问题,例如索引分裂膨胀,离散IO,WAL膨胀等,详见以前的分析。

Regular random UUIDs are distributed uniformly over the whole range of possible values.

This results in poor locality when inserting data into indexes -

all index leaf pages are equally likely to be hit, forcing the whole index into memory.

With small indexes that's fine, but once the index size exceeds shared buffers (or RAM), the cache hit ratio quickly deteriorates.

《PostgreSQL 优化CASE - 无序UUID性能问题诊断》

《PostgreSQL sharding有序UUID最佳实践 - serial global uuid stored in 64bit int8》

https://blog.2ndquadrant.com/sequential-uuid-generators/

如何生成有序UUID呢?

以下是Instagram的做法

《PostgreSQL sharding有序UUID最佳实践 - serial global uuid stored in 64bit int8》

除此之外,还可以使用sequential-uuids这个插件:

https://github.com/tvondra/sequential-uuids

sequential-uuids插件例子

UUID为16字节类型,生成算法:在16字节的可枚举空间里随机生成,因此可以认为整个索引的所有页面都是热的,因为新生成的UUID值可能写入索引的任意位置。当UUID列的索引超出内存大小时,持续写入会不可避免的会引入较多的磁盘操作(FULL PAGE WRITE(由于可能写任意PAGE))。

而传统的序列方式的UUID,实际上是往一个方向递增会递减的。主要的问题:

1、对撞,由于取值范围降到了8字节(BIGINT的序列,或者时间戳(取决于精度))。所以对撞空间比UUID(16字节)小了,容易出现重复。

2、BTREE里面,往一个方向递增,如果一次性大量删除历史数据,会导致那些索引页全部废弃,导致膨胀。(当然,如果后续还有数据持续写入,那些完全删除了数据的索引页还可以被重复利用。)

为了解决这2个问题,提出了GUID的概念

https://en.wikipedia.org/wiki/Universally_unique_identifier

http://www.informit.com/articles/article.aspx?p=25862

GUID,实际上就是把数据拆成两部分,一部分自增,一部分随机。同样整个类型使用的是16字节。例如prefix部分使用自增(在有限空间内WRAP,重复使用),另一部分使用随机。同时解决了以上两个问题。

sequential-uuids插件就是这个思路实现的,

(block ID; random data)  

提供了两种prefix算法:

1、prefix为自增序列,如果block ID使用2字节存储,一个索引BLOCK里面可以存储256条记录(假设8K的BLOCK,一条记录包括uuid VALUE(16字节)以及ctid(6字节),所以一个索引页约存储363条记录(8000/(16+6)))

uuid_sequence_nextval(sequence regclass, block_size int default 65536, block_count int default 65536)  
/*  
 * uuid_sequence_nextval  
 *	generate sequential UUID using a sequence  
 *  
 * The sequence-based sequential UUID generator define the group size  
 * and group count based on number of UUIDs generated.  
 *  
 * The block_size (65546 by default) determines the number of UUIDs with  
 * the same prefix, and block_count (65536 by default) determines the  
 * number of blocks before wrapping around to 0. This means that with  
 * the default values, the generator wraps around every ~2B UUIDs.  
 *  
 * You may increase (or rather decrease) the parameters if needed, e.g,  
 * by lowering the block size to 256, in wich case the cycle interval  
 * is only 16M values.  
 */  

如下,假设block_size设置为256,则表示每256个连续值的prefix是一样的。

(nextval('seq') / 256) % 65536  

意思是每256条记录,从0开始,prefix递增1,到65535后循环。

seq=1, prefix=0  
  
seq=2, prefix=0  
  
seq=256, prefix=1  
  
...  

2、prefix为时间戳。

uuid_time_nextval(interval_length int default 60, interval_count int default 65536) RETURNS uuid  
/*  
 * uuid_time_nextval  
 *	generate sequential UUID using current time  
 *  
 * The timestamp-based sequential UUID generator define the group size  
 * and group count based on data extracted from current timestamp.  
 *  
 * The interval_length (60 seconds by default) is defined as number of  
 * seconds where UUIDs share the same prefix). The prefix length is  
 * determined by the number of intervals (65536 by default, i.e. 2B).  
 * With these parameters the generator wraps around every ~45 days.  
 */  

默认每60秒内的数据prefix是一样的,prefix递增1,到65535后循环。

(timestamp / 60) % 65536  

65535为prefix使用掉的字节数的取值空间,例如2字节,则为65536。

使用举例:

git clone https://github.com/tvondra/sequential-uuids  
cd sequential-uuids/  
USE_PGXS=1 make  
USE_PGXS=1 make install  
postgres=# create sequence seq;  
CREATE SEQUENCE  
postgres=# select uuid_sequence_nextval('seq'::regclass);  
        uuid_sequence_nextval           
--------------------------------------  
 0000c98b-24e3-648d-d974-31a2a23e3f49  
(1 row)  
postgres=# select uuid_sequence_nextval('seq'::regclass,256);  
        uuid_sequence_nextval           
--------------------------------------  
 0000a807-5878-05c1-7379-262e74e2d83e  
(1 row)  
  
postgres=# select uuid_sequence_nextval('seq'::regclass,256);  
        uuid_sequence_nextval           
--------------------------------------  
 00005da3-473e-61d7-d2aa-ef3c0ad5ad3d  
(1 row)  
  
postgres=# select uuid_time_nextval();  
          uuid_time_nextval             
--------------------------------------  
 97a52b75-fbc0-8758-eecf-be213e66f388  
(1 row)  
  
postgres=# select uuid_time_nextval(300);  
          uuid_time_nextval             
--------------------------------------  
 84bab38b-87d5-17cd-07d3-93bd0c30d919  
(1 row)  
  
postgres=# select uuid_time_nextval(300);  
          uuid_time_nextval             
--------------------------------------  
 84bacffe-69fb-7464-bbfb-bca9ca7bcb08  
(1 row)  

参考

https://github.com/tvondra/sequential-uuids

《PostgreSQL 优化CASE - 无序UUID性能问题诊断》

《PostgreSQL sharding有序UUID最佳实践 - serial global uuid stored in 64bit int8》

https://blog.2ndquadrant.com/sequential-uuid-generators/

https://github.com/tvondra/sequential-uuids/blob/master/sequential_uuids.c

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
相关文章
|
19天前
|
SQL 关系型数据库 MySQL
深入解析MySQL的EXPLAIN:指标详解与索引优化
MySQL 中的 `EXPLAIN` 语句用于分析和优化 SQL 查询,帮助你了解查询优化器的执行计划。本文详细介绍了 `EXPLAIN` 输出的各项指标,如 `id`、`select_type`、`table`、`type`、`key` 等,并提供了如何利用这些指标优化索引结构和 SQL 语句的具体方法。通过实战案例,展示了如何通过创建合适索引和调整查询语句来提升查询性能。
118 9
|
2月前
|
SQL 关系型数据库 MySQL
大厂面试官:聊下 MySQL 慢查询优化、索引优化?
MySQL慢查询优化、索引优化,是必知必备,大厂面试高频,本文深入详解,建议收藏。关注【mikechen的互联网架构】,10年+BAT架构经验分享。
大厂面试官:聊下 MySQL 慢查询优化、索引优化?
|
23天前
|
缓存 关系型数据库 MySQL
MySQL 索引优化以及慢查询优化
通过本文的介绍,希望您能够深入理解MySQL索引优化和慢查询优化的方法,并在实际应用中灵活运用这些技术,提升数据库的整体性能。
61 18
|
22天前
|
缓存 关系型数据库 MySQL
MySQL 索引优化以及慢查询优化
通过本文的介绍,希望您能够深入理解MySQL索引优化和慢查询优化的方法,并在实际应用中灵活运用这些技术,提升数据库的整体性能。
22 7
|
21天前
|
缓存 关系型数据库 MySQL
MySQL 索引优化与慢查询优化:原理与实践
通过本文的介绍,希望您能够深入理解MySQL索引优化与慢查询优化的原理和实践方法,并在实际项目中灵活运用这些技术,提升数据库的整体性能。
56 5
|
2月前
|
SQL 关系型数据库 MySQL
MySQL慢查询优化、索引优化、以及表等优化详解
本文详细介绍了MySQL优化方案,包括索引优化、SQL慢查询优化和数据库表优化,帮助提升数据库性能。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
MySQL慢查询优化、索引优化、以及表等优化详解
|
2月前
|
关系型数据库 MySQL Java
MySQL索引优化与Java应用实践
【11月更文挑战第25天】在大数据量和高并发的业务场景下,MySQL数据库的索引优化是提升查询性能的关键。本文将深入探讨MySQL索引的多种类型、优化策略及其在Java应用中的实践,通过历史背景、业务场景、底层原理的介绍,并结合Java示例代码,帮助Java架构师更好地理解并应用这些技术。
57 2
|
2月前
|
缓存 监控 关系型数据库
如何优化MySQL查询速度?
如何优化MySQL查询速度?【10月更文挑战第31天】
143 3
|
3月前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:百万级数据统计优化实践
【10月更文挑战第21天】 在处理大规模数据集时,传统的单体数据库解决方案往往力不从心。MySQL和Redis的组合提供了一种高效的解决方案,通过将数据库操作与高速缓存相结合,可以显著提升数据处理的性能。本文将分享一次实际的优化案例,探讨如何利用MySQL和Redis共同实现百万级数据统计的优化。
130 9
|
2月前
|
缓存 关系型数据库 MySQL
如何优化 MySQL 数据库的性能?
【10月更文挑战第28天】
137 1

相关产品

  • 云原生数据库 PolarDB
  • 云数据库 RDS PostgreSQL 版