H2存储内核分析一

简介: 现在做数据库一般都才有 C/C++ 获取其它编译型的语言,为什么会选择 h2 这种基于 java 的语言?会不会影响效率?其实回答这个问题很简单,无论是用什么语言来实现数据库,其实都是在调用操作系统 IO 的函数。因此仅仅是作为存储的话差别其实是不大的。现在大多数,涉及到存储内核的文章或者讲义,要么是一堆原理,要么就是玩具版本例子,根本无法应用到实际的工程上面去,就像马保国的闪电五连鞭一样。我们选择 h2 的一个重要原因就是,学习完后,可以直接应用到工程上。行不行直接在擂台上比一下就知道了。

开篇说明

  1. 现在做数据库一般都才有 C/C++ 获取其它编译型的语言,为什么会选择 h2 这种基于 java 的语言?会不会影响效率?其实回答这个问题很简单,无论是用什么语言来实现数据库,其实都是在调用操作系统 IO 的函数。因此仅仅是作为存储的话差别其实是不大的。
  2. 现在大多数,涉及到存储内核的文章或者讲义,要么是一堆原理,要么就是玩具版本例子,根本无法应用到实际的工程上面去,就像马保国的闪电五连鞭一样。我们选择 h2 的一个重要原因就是,学习完后,可以直接应用到工程上。行不行直接在擂台上比一下就知道了。

MVStore 的基础方法

1、创建一个 MVStore 的对象时,如果 fileName 设置为空表示纯内存模式。也就是说 MVStore 可以作为 redis 使用,当然功能会比 redis 还强大。

1.1、纯内存模式

// 创建一个纯内存的 storeMVStorestore=MVStore.open(null);

复制

1.2、磁盘模式

// 文件存储位置StringfileName="/Users/chenfei/temp/my_store.db";
// 创建一个 storeMVStorestore=newMVStore.Builder().fileName(fileName).pageSplitSize(1000).open();

复制

1.3、使用 MVStore.Builder() 生成 MVStore

MVStore.Builder() 常用方法

  1. 生成纯内存 store
MVStore.Builderbuilder=newMVStore.Builder();
MVStorestore=builder.open();

复制

  1. fileName(String fileName):设置存储MVStore数据的文件名
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. encryptionKey(char[] key):设置加密密钥,用于对MVStore的数据进行加密。如果不设置,则不进行加密。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. compress():开启压缩选项,用于将MVStore的数据进行压缩,以减小存储空间。默认不开启。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. 禁用自动提交事务,需要手动提交。默认开启自动提交事务。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. 设置MVStore为只读模式,不能进行写操作。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
// 设置MVStore为只读模式,不能进行写操作。builder.readOnly();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. 设置MVStore的缓存大小,单位为MB,默认为16MB。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
// 设置MVStore为只读模式,不能进行写操作。// builder.readOnly();// 设置MVStore的缓存为 8MB,默认为16MBbuilder.cacheSize(8);
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. pageSplitSize(int pageSplitSize):数据页的大小是通过pageSplitSize方法进行设置的,默认值为4KB。MVStore使用了数据页的概念来管理存储的数据,将较大的数据文件拆分成多个小的数据页,以提高性能。每个数据页的大小是通过pageSplitSize方法进行设置的,默认值为4KB。当MVStore在写入数据时,首先会将数据写入内存缓存中,当缓存中的数据达到一定大小后,会将数据刷新到磁盘上,并拆分成多个数据页。如果数据大小超过了pageSplitSize的设置值,则会拆分成多个数据页。因此,pageSplitSize的设置值会影响数据拆分的粒度,进而影响MVStore的性能。 通常情况下,pageSplitSize的默认值可以满足大部分应用的需要。如果需要调整MVStore的性能,可以根据实际情况适当调整pageSplitSize的值。需要注意的是,pageSplitSize的值必须是2的幂次方。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
// 设置MVStore为只读模式,不能进行写操作。// builder.readOnly();builder.pageSplitSize(500);
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. open():使用builder中的配置选项创建MVStore实例。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
MVStorestore=builder.open();

复制

生成MVStore实例的过程

如果是纯内存模式,它的 file header 就为空。只有是磁盘模式的时候才有 file header。

1、生成 MVMap

// 生成一个名为 cache_data 的 MVMap 对象
store.openMap("cache_data");

复制

MVStore 执行  openMap 方法的时候,如果 map 不存在就新建,存在就直接打开。如果是纯内存模式的,则是新建。

mvmap.png


2、MVMap 保存或者删除数据的过程

mvmap_put.png


3、MVStore 提交的过程

在 MVStore 中添加或者是删除数据,为了效率都是在内存中执行的,并没有刷到磁盘上,如果要刷到磁盘上需要调用 commite 方法。

store_commit.png


4、MVMap 查询的过程

mvmap_get.png


如果大家对存储内核有兴趣的话,可以加入 DawnSql 交流群,告诉我,我会继续写下去。DawnSql 交流群,在 https://docs.dawnsql.com/ 的首页可以查看(打开有点慢,稍等一下就可以了)

说明一点:有些朋友有疑问,为什么 DawnSql 选择 h2 的存储内核,而不是去重新做一个?这里主要是为了高用性!h2 作为成熟的数据库存储内核,已经在实际的项目中应用了多年,它是经得起考验的。如果新做存储内核,可能会给使用者带来高可用性上面的顾虑,所以我们再三权衡后选择更稳定可用性更高的方案。当然随着 DawnSql 的发展和根据企业方的要求,我们也可以对其进行修改和重构!


相关文章
|
6月前
|
存储 小程序 编译器
【数据存储:揭开内存中数据存储的神秘面纱】(上)
【数据存储:揭开内存中数据存储的神秘面纱】
|
6月前
|
存储
【数据存储:揭开内存中数据存储的神秘面纱】(下)
【数据存储:揭开内存中数据存储的神秘面纱】
|
6月前
|
存储 关系型数据库 MySQL
认真学习InnoDB的数据存储结构
认真学习InnoDB的数据存储结构
76 0
|
存储 小程序 编译器
【数据的存储】(深度剖析)
带你深度剖析数据在内存中的存储
|
存储 SQL 缓存
读书笔记《数据密集型应用系统设计》- 数据存储与检索
《数据密集型应用系统设计》是一本很好的介绍数据密集类系统设计原理的纲要性书籍,笔者再次阅读下,记录一些读书笔记,也写一些自己的思考穿插其中,以做备忘。
164 0
|
存储 SQL Oracle
程序员必备的数据库知识:数据存储结构
本文介绍了五种常见数据存储结构,另外还有图、表格、链式、R-TREE等数据结构并未涉及,当然本文也只是对数据库存储结构的知识抛砖引玉,有兴趣的同学可以对每一种数据存储结构做更详细和深入的学习。司马辽太杰是 NineData 工程师。NineData 向企业和个人提供高效、安全的数据库SQL开发、数据库备份、数据复制/迁移/集成、数据对比等功能,是一个SaaS服务开箱即用,可以快速提升企业SQL开发效率,保障企业数据安全。NineData 官网地址:https://ninedata.cloud
884 0
程序员必备的数据库知识:数据存储结构
|
存储 数据可视化 关系型数据库
MySQL数据库常识之储存引擎
ENGINE = 引擎类型接在建表语句最后,可以指定引擎。
|
存储 Kubernetes 测试技术
应用存储和持久化数据卷:存储快照与拓扑调查(一)|学习笔记
快速学习应用存储和持久化数据卷:存储快照与拓扑调查(一)
146 0
应用存储和持久化数据卷:存储快照与拓扑调查(一)|学习笔记
|
存储 Kubernetes 调度
应用存储和持久化数据卷:存储快照与拓扑调查(二)|学习笔记
快速学习应用存储和持久化数据卷:存储快照与拓扑调查(二)
应用存储和持久化数据卷:存储快照与拓扑调查(二)|学习笔记
|
存储 缓存 搜索推荐
从数据库底层说起,探究用户画像系统的储存该如何选型
从数据库底层说起,探究用户画像系统的储存该如何选型
379 0
从数据库底层说起,探究用户画像系统的储存该如何选型
下一篇
无影云桌面