【DB吐槽大会】第13期 - PG 膨胀收缩之痛

简介: 大家好,这里是DB吐槽大会,第13期 - PG 膨胀收缩之痛


背景


1、产品的问题点

  • 当表膨胀后普通的vacuum 无法回收已经占用的磁盘空间, (仅末尾空块可从磁盘回收).
  • 使用pg_repack或vacuum full(要锁全表, 影响业务)回收磁盘占用的空间都需要额外的磁盘来临时存储重组后的数据.

2、问题点背后涉及的技术原理

  • 普通的vacuum只能truncate数据文件末尾的空block, 所以我们可以将末尾的tuple移动到前面, 从而从磁盘回收末尾的block.
  • 为什么只能truncate数据文件末尾的空block?
  • 因为非末尾的block被清掉之后寻址会发生变化, 例如第二个数据块回收掉, 那么2号数据块后面的数据块的编号都需要减1, 而索引的ctid指向的是原来的编号, 因此会导致索引不准确. 当然, 我们可以增加1个bitmap文件存储真空块(已回收的中间blockid, 寻址时通过这个数据再进行block定位), 但是会增加寻址的复杂度, 性能可能下降.

3、这个问题将影响哪些行业以及业务场景

4、会导致什么问题?

  • 如果你的环境已经拮据到无法提供额外的磁盘空间来存放整理后的数据, 那么将无法实施回收操作.

5、业务上应该如何避免这个坑

6、业务上避免这个坑牺牲了什么, 会引入什么新的问题

  • 维护成本较高, 一般用户不懂.

7、数据库未来产品迭代如何修复这个坑

  • 希望内核层支持行迁移功能.
  • 希望内核层支持在线收缩表空间功能: pg_repack.
  • 希望尽量避免膨胀.



相关文章
|
消息中间件 缓存 NoSQL
从美团挖来的架构师居然这么设计DB+缓存,真的长见识了!
从美团挖来的架构师居然这么设计DB+缓存,真的长见识了!
|
SQL Oracle 关系型数据库
【DB吐槽大会】第48期 - PG 性能问题发现和分析能力较弱
大家好,这里是DB吐槽大会,第48期 - PG 性能问题发现和分析能力较弱
|
SQL 固态存储 关系型数据库
【DB吐槽大会】第12期 - 没有自动成本校准器
大家好,这里是DB吐槽大会,第12期 - 没有自动成本校准器
|
存储 SQL Oracle
【DB吐槽大会】第66期 - PG 缺乏更简单的数据热插拔能力
大家好,这里是DB吐槽大会,第66期 - PG 缺乏更简单的数据热插拔能力
|
JSON 固态存储 关系型数据库
【DB吐槽大会】第43期 - PG 倒排索引启动和recheck代价高
大家好,这里是DB吐槽大会,第43期 - PG 倒排索引启动和recheck代价高
|
存储 监控 Oracle
【DB吐槽大会】第29期 - PG 表空间容易达到文件系统天花板
大家好,这里是DB吐槽大会,第29期 - PG 表空间容易达到文件系统天花板
|
关系型数据库 Java 分布式数据库
【DB吐槽大会】第9期 - PG 大量连接写小事务性能差
大家好,这里是DB吐槽大会,第9期 - PG 大量连接写小事务性能差
|
SQL 存储 关系型数据库
【DB吐槽大会】第61期 - PG 审计功能有巨大增强空间
大家好,这里是DB吐槽大会,第61期 - PG 审计功能有巨大增强空间
|
存储 JSON 搜索推荐
【DB吐槽大会】第35期 - “富人”的烦恼?PG 不会自动选择索引类型
大家好,这里是DB吐槽大会,第35期 - “富人”的烦恼?PG 不会自动选择索引类型
|
存储 SQL 并行计算
【DB吐槽大会】第64期 - PG 里面的某些单核瓶颈
大家好,这里是DB吐槽大会,第64期 - PG 里面的某些单核瓶颈