看了Boltdb也有一阵子了,看完之后总想写点什么,因为感觉到这可能是个不小的坑,所以迟迟没有动笔(没错我的拖延症又犯了..)。最近有一种流行的说法:如果一个东西不能把它讲清楚,便不能说你学会了它。
因为看起来会和真的会之间有一个巨大的鸿沟,想跨越这个鸿沟便需要不断的提问、思考与输出,这是个相对枯燥但绝对值得的过程,因此趁着周末两天的完整时间正式开始挖坑。
什么是boltdb
Boltdb是一个go语言开发的嵌入式kv数据库。其实现相对简单:
- 不支持网络请求和SQL查询,因此也就没有了网络交互、词法分析、语法分析、查询优化等成熟数据库中必不可少的功能。
- 使用了比较少见的shadow page技术,只支持一个writer和多个reader,在这种约束下,事务的隔离级别为可串行话,并发控制也比较简单
- 使用mmap将内存与磁盘建立映射,由OS管理磁盘page load到内存的过程,大大减少了boltdb手动管理的复杂度。
Boltdb所有代码加起来才1W行,但是麻雀虽小五脏俱全,非常适合用来学习数据库中的一些基本原理和概念,例如page、transanction、cursor等。
值得一提的是,Boltdb还是etcd底层的kv存储,目前Boltdb原仓库(https://github.com/boltdb/bolt)已经是read-only状态。而etcd维护了一个fork(https://github.com/etcd-io/bbolt), 主要是为了继续增强可靠性、稳定性和性能。
如何使用boltdb
数据模型
在使用boltdb之前,我们需要对其数据模型有个直观的了解。以下是boltdb与关系型数据库的数据模型简单类比:
boltdb中的概念 | 关系型数据库中的概念 |
DB | database |
Bucket | table |
key value pair | Tuple |
Boltdb中的Bucket虽然可简单类比成关系型数据中table,有一点却不相同:前者可嵌套创建Bucket, 即一个Bucket下还可创建子Bucket, 而后者不行。
安装
go get github.com/boltdb/bolt/...
操作DB
操作DB包括创建(打开)、关闭。
代码如下:在执行bolt.Open
时,如果指定文件路径不存在,则根据路径创建一个数据库文件;否则加载该路径下的文件。使用db.Close
便可关闭DB.
package main import ( "log" "github.com/boltdb/bolt" ) func main() { // Open the my.db data file in your current directory. // It will be created if it doesn't exist. db, err := bolt.Open("my.db", 0600, nil) if err != nil { log.Fatal(err) } defer db.Close() ... }
操作事务
Boltdb中按照是否只读将事务分为读事务和写事务。
用户使用db.View
创建读事务时需传入一个回调函数,表示读事务执行操作。如果回调函数返回的err != nil
,db.View
则会回滚该事务,并将err
透传给db.View
err := db.View(func(tx *bolt.Tx) error { ... return nil })
使用db.Update
可创建写事务。db.Update
如何处理错误同db.View
err := db.Batch(func(tx *bolt.Tx) error { ... return nil })
操作Bucket
操作Bucket包括创建Bucket、删除Bucket
创建Bucket属于写事务。这里db.Update
会创建一个写事务,写事务执行的操作是CreateBucket
,即创建一个新的Bucket
db.Update(func(tx *bolt.Tx) error { b, err := tx.CreateBucket([]byte("MyBucket")) if err != nil { return fmt.Errorf("create bucket: %s", err) } return nil })
删除Bucket也属于写事务。使用上同理
db.Update(func(tx *bolt.Tx) error { b, err := tx.DeleteBucket([]byte("MyBucket")) if err != nil { return fmt.Errorf("create bucket: %s", err) } return nil })
操作key/value
操作key/value包括:新建/更新/删除/查询。所有的key/value对都必须属于某个具体的Bucket. 因此操作key/value之前必须找到Bucket对象。
新建/更新代码必须用写事务封装,代码如下,这里在名为MyBucket
的Bucket下新增了一对("answer", "42")
db.Update(func(tx *bolt.Tx) error { b := tx.Bucket([]byte("MyBucket")) err := b.Put([]byte("answer"), []byte("42")) return err })
删除代码如下:
db.Update(func(tx *bolt.Tx) error { b := tx.Bucket([]byte("MyBucket")) err := b.Delete([]byte("answer") return err })
查询代码如下:
db.View(func(tx *bolt.Tx) error { b := tx.Bucket([]byte("MyBucket")) v := b.Get([]byte("answer")) fmt.Printf("The answer is: %s\n", v) return nil })
如何分析Boltdb
代码导读
首先是读代码,从微观到宏观的层面了解这座房屋如何建成的。代码阅读顺序是
page.go: 磁盘上的page layout,包括meta page, freelist page, branch page, leaf page。 node.go: 磁盘上的page反序列化到内存之后的数据结构,也作为B+树节点。 freelist.go: page管理, 支持page申请、释放、回滚等操作。 cursor.go: 用于访问B+树的迭代器 bucket.go: Bucket数据结构,支持创建/删除子Bucket、新建/更新/删除kv数据。 db.go.go: 用于访问DB, 支持打开/关闭DB、创建读/写事务、db file自动扩容。
更详细的代码细节将在该系列的后续内容中给出.
分析工具
Boltdb提供了一个好用的工具,可用于查看db file中每个page的内容
安装:
git clone https://github.com/boltdb/bolt cd cmd/bolt go build ls ./bolt
查看所有pages状态
$ ./bolt pages /tmp/bolt.db | head ID TYPE ITEMS OVRFLW ======== ========== ====== ====== 0 meta 0 1 meta 0 2 freelist 4 3 leaf 141 4 leaf 86 5 leaf 85 6 branch 117 7 leaf 85
其中ID表示page id, TYPE为page类型,ITEMS表示其中的数据条数,OVRFLW表示该
page是否溢出。
查看某个page的内容
$ ./bolt page /tmp/bolt-624750664 3 | head Page ID: 3 Page Type: leaf Total Size: 4096 bytes Item Count: 141 "9874": "9874" "9875": "9875" "9876": "9876" "9877": "9877" "9878": "9878"
以上为某个leaf page的内容,底部为该page中存储的key/value对。