【赵渝强老师】PostgreSQL中表的碎片

简介: 本文详解PostgreSQL数据碎片成因(DELETE/UPDATE导致dead元组与块分裂)及清理方法,通过5000万行实测演示VACUUM如何释放物理空间、消除存储空洞,提升存储效率与查询性能。(239字)

b429.png

在PostgreSQL中删除行的时候,这些行只是被标记为“dead”,而不是真正从物理存储上进行删除了,因而空间也没有真的被释放回收。在PostgreSQL中除非进行自动的auto vacuum或者是手动的vacuum,否则数据块所占用的物理空间不会被回收。因此在物理存储空间被回收之前,会导致存储空间中存在很多空洞。如果表结构中包含动态长度字段,那么这些空洞甚至可能不能被PostgreSQL重新用来存储新的行。因此,大量随机的DELETE操作,必然会在数据文件中造成不连续的空白空间。而当插入数据时,这些空白空间也不会被利用起来,于是造成了数据的存储位置不连续。物理存储顺序与逻辑上的排序顺序不同,这种就是数据碎片。


对于大量的UPDATE,也会产生文件碎片化 , PostgreSQL的最小逻辑存储分配单位是数据块(Block),其默认值是8K。因此大量的更新操作也可能导致数据块的分裂(Block Split),即:同一个字段的数据可能存储在不同的数据块中。频繁的数据块分裂,会使得数据的存储变得稀疏,并且被不规则的数据填充,所以最终数据会有碎片。


视频讲解如下:


下面通过具体的步骤来演示如何清理表的碎片。

(1)创建一张新的表,并往表中插入5000万条记录

scott=# create table testfragement(tid int,tname varchar(20));
scott=# insert into testfragement select n,'myname_'||n from generate_series(1,50000000) n;


(2)查看表testfragement占用的容量大小。

scott=# select pg_size_pretty(pg_relation_size('testfragement'));
# 输出的结果如下:
 pg_size_pretty 
----------------
 2488 MB
(1 row)


(3)删除表中所有数据。

scott=# delete from testfragement;


(4)再次查看表testfragement占用的容量大小。

scott=# select pg_size_pretty(pg_relation_size('testfragement'));
# 输出的结果如下:
 pg_size_pretty 
----------------
 2488 MB
(1 row)
# 从输出的结果可以看出,尽管删除了表中的数据,表所占用的空间依然没有释放。


(5)查看表的状态信息。

scott=# \x
scott=# select * from pg_stat_user_tables where relname = 'testfragement';
# 输出的结果如下:
-[ RECORD 1 ]-------+------------------------------
relid               | 16574
schemaname          | public
relname             | testfragement
seq_scan            | 1
seq_tup_read        | 50000000
idx_scan            | 
idx_tup_fetch       | 
n_tup_ins           | 50000000
n_tup_upd           | 0
n_tup_del           | 50000000
n_tup_hot_upd       | 0
n_live_tup          | 0
n_dead_tup          | 49999426
n_mod_since_analyze | 0
n_ins_since_vacuum  | 0
last_vacuum         | 
last_autovacuum     | 2023-04-28 09:14:26.066678+08
last_analyze        | 
last_autoanalyze    | 2023-04-28 09:14:46.677939+08
vacuum_count        | 0
autovacuum_count    | 1
analyze_count       | 0
autoanalyze_count   | 1
其中:
n_live_tup 的数量是当前表的数据量。
n_dead_tup 的数据量是未回收的空间。
# 从参数n_dead_tup输出结果上看,表testfragement仍然占用了很多 ”空闲“ 数据块,其空间没有被回收。


(6)手动进行一下碎片的清理。

scott=# vacuum testfragement;
# 此时会产生后台相应的进程:
[root@mydb ~]# ps -ef|grep VACUUM
postgres  6649  3540 .... postgres: postgres [local] VACUUM


(7)再次查看一下表的状态

scott=# \x
scott=# select * from pg_stat_user_tables where relname = 'testfragement';
# 输出的信息如下:
-[ RECORD 1 ]-------+------------------------------
relid               | 16574
schemaname          | public
relname             | testfragement
seq_scan            | 1
seq_tup_read        | 50000000
idx_scan            | 
idx_tup_fetch       | 
n_tup_ins           | 50000000
n_tup_upd           | 0
n_tup_del           | 50000000
n_tup_hot_upd       | 0
n_live_tup          | 0
n_dead_tup          | 0
n_mod_since_analyze | 0
n_ins_since_vacuum  | 0
last_vacuum         | 2023-04-28 09:23:05.463206+08
last_autovacuum     | 2023-04-28 09:18:11.434888+08
last_analyze        | 
last_autoanalyze    | 2023-04-28 09:14:46.677939+08
vacuum_count        | 1
autovacuum_count    | 2
analyze_count       | 0
autoanalyze_count   | 1
# 参数n_live_tup和n_dead_tup都变成了0,这说明表所占用的空间已经被释放回收。


(8)重新查看表testfragement占用的容量大小。

scott=# select pg_size_pretty(pg_relation_size('testfragement'));
# 输出的结果如下:
 pg_size_pretty 
----------------
 0 bytes
(1 row)
相关文章
|
6月前
|
SQL 监控 关系型数据库
PL/pgSQL 入门教程(五):触发器
PostgreSQL触发器是数据库的“自动服务员”,可在INSERT/UPDATE/DELETE等操作时自动执行校验、日志记录、汇总更新等逻辑。支持BEFORE/AFTER/INSTEAD OF时机,ROW/STATEMENT级别,配合NEW/OLD变量实现灵活数据管控,大幅提升数据一致性与运维效率。
|
6月前
|
SQL 存储 关系型数据库
PL/pgSQL 入门教程(一):语法篇
本教程为PL/pgSQL入门首篇,系统讲解其核心基础与语法规则。涵盖函数创建、块结构、变量声明、参数传递、返回类型及排序规则等关键知识点,助你掌握在PostgreSQL中编写高效存储过程与函数的必备技能,提升数据库逻辑处理能力。
|
4月前
|
SQL 关系型数据库 MySQL
MySQL 技巧:用好窗口函数,告别复杂子查询
MySQL 技巧:用好窗口函数,告别复杂子查询
|
4月前
|
存储 人工智能 网络安全
OpenClaw1人 AI 公司搭建教程:阿里云/本地部署OpenClaw 集成 Chief+Sub-Agent 协同架构+多 Agent 指南
用OpenClaw搭建“一人公司”时,很多人会陷入多Agent管理的困境:记忆混乱导致战略分散、Token消耗激增、上下文污染让Agent“越界干活”——明明需要执行者,却养了一群“记忆错乱的演员”。核心问题不在于Agent数量,而在于架构设计错误。
1562 1
|
2月前
|
缓存 关系型数据库 数据库
【赵渝强老师】PostgreSQL的数据预热扩展pg_prewarm
本文详解PostgreSQL扩展pg_prewarm,支持手工与自动两种数据预热方式:手工调用pg_prewarm()函数将表数据预加载至缓冲区;自动模式通过后台进程周期记录并重启时恢复热点数据,显著提升查询性能。
226 1
【赵渝强老师】PostgreSQL的数据预热扩展pg_prewarm
|
1月前
|
NoSQL MongoDB 数据安全/隐私保护
【赵渝强老师】MongoDB的视图
MongoDB视图是基于聚合管道的只读虚拟集合,不持久化数据,支持数据抽象、敏感字段过滤及RBAC权限控制。本文详解创建、多集合关联、修改与删除视图的完整操作,并附代码示例与视频讲解。(239字)
111 0
|
3月前
|
SQL 安全 关系型数据库
批量更新不用游标:CASE WHEN + 集合操作,一行SQL搞定!
数据库小学妹分享MySQL批量更新技巧:用`CASE WHEN`+集合操作或`JOIN`临时表,一条SQL高效更新多行,告别低效游标!兼顾性能、安全与可维护性,百万数据秒级完成。
|
5月前
|
人工智能 缓存 关系型数据库
Apache Doris 4.0.3 版本正式发布
亲爱的社区小伙伴们,**Apache Doris 4.0.3 版本已正式发布。**此版本新增了在 AI & Search、湖仓一体、查询引擎等方面的能力,并同步进行了多项优化改进及问题修复,欢迎下载体验!
372 8
|
5月前
|
人工智能 安全 机器人
【喂奶级教程】手把手教你阿里云部署OpenClaw,让AI助手在聊天软件里帮你干活
2026年的AI自动化领域,OpenClaw(原Clawdbot、Moltbot)凭借**自然语言驱动执行、本地+云端双适配、插件化生态扩展**的核心能力,成为个人与企业打造专属AI助手的标杆工具。它彻底打破了传统对话式AI“只说不做”的局限,以WebSocket网关为核心架构,能安全执行系统命令、操作文件、控制浏览器、对接多端办公工具,真正实现“一句话搞定所有重复性工作”。阿里云作为国内领先的云服务平台,对OpenClaw完成了全生态整合,推出**专属预置镜像、轻量应用服务器一键部署、百炼大模型无缝对接**等优化方案,将原本需要专业开发能力的部署流程,简化为零基础用户也能轻松上手的“点选+复
1017 0
|
10月前
|
机器学习/深度学习 算法 数据挖掘
足球比赛的镜头如何变成数据:从视频分析到实时数据应用
足球视频分析利用计算机视觉与深度学习技术,将比赛镜头转化为球员位置、动作及赛事事件等结构化数据,助力战术制定、表现评估与观赛体验升级,推动体育智能化发展。