从0开始打造一个最小系统的数据库

简介:

本篇趟个雷,把数据库纳入到轮子中,在我看来,数据库比轮子复杂多了,是一个和操作系统差不多复杂度的东西,所以才能通过一个Oracle养活一家全球50强的公司。本文为后端轮子系列的第一篇,我们先来谈谈如何造个数据库吧。


先来聊聊关系型数据库


关系型数据库(Relational Database)是一个伟大的发明,一般的数据库理论,大概会分成以下三个部分。


  1. 首先,数据库是建立在关系模型基础上的,并且从理论上来讲,是有完备的数学模型,也就是集合代数来做支撑的,他把我们真实世界中的联系和实体抽象成了关系模型,并用这个发展出了数据库理论,这是数据库的理论基础。

  2. 其次,也有人通过这个关系模型,发明了SQL这种进行关系查询的编程语言,用来对这个关系型的数据集合进行操作。这个实际上给出了通过集合代数发展出来的关系型数据库怎么进行数据操作和检索的。

  3. 还有人,发展出了数据库设计的理论,也就是大家所熟悉的数据库三大范式【应该是5大范式】,用来教我们在实际场景中怎么设计一个数据库,几大范式实际上是把关系模型这个抽象的概念变成了几条规则,按照这几条规则去设计数据库,就能产生最少的数据冗余,最能体现出关系这个模型的核心。


我们发现,上面三个大的部分都是数据库的理论知识,其实并没有人告诉我们怎么来用代码实现一个数据库,因为科学家们认为实现它并不重要,那是工程师要考虑的事情,too simple,科学家只负责搞出理论,反正我们也不是科学家,那么我们就来做做工程师吧。


工程师眼中的数据库系统


既然是工程师,首先想到的就是如何来实现一个数据库了,一个标准的数据库主要会包含以下几个大的模块。


  • 底层的存储层,这个是必不可少的,是整个数据库的核心数据结构,也就是数据是如何保存的,一般提供最简单的原子增删改查。

  • 存储层上面就是引擎层了,这里会对底层的存储层进行各种组合型的操作用来满足查询的需求之类的,而且数据库的事务支持也在这一层,我们熟悉的innoDB就是一个数据库的存储引擎,他其实包含的就是这个引擎层和存储层了,引擎层提供对数据层的操作方法集合。

  • 在引擎层之上还有个SQL的解析层,主要用来对SQL语句进行解析,分析,优化了,然后把SQL语句转化成引擎层的接口,进行具体的数据操作。

  • 最上面就是对外的UI了,也就是用户交互层了,一般我们熟悉的就是网络交互了。


虽然看起来好像挺简单,就是这么三层,但是实际的数据库是非常非常复杂的,除了这些以外还有很多其他模块,比如用户权限管理、缓存模块、日志模块、备份模块等等,大家可以仔细去看看innoDB的书籍或者innoDB的代码,光一个binlog就特别麻烦。


其实要保存数据,搜索系统也能保存数据,而且检索起来更快,并且两者的底层数据结构其实差别不是很大,但为什么用数据库呢?因为数据库的核心是可靠这个可靠就是考数据库的引擎层来保证的,完整的binlog记录,崩溃后完整的重放机制,数据双写,内存数据定时刷新到磁盘,所有的这些都是为了保证数据的可靠,不会丢失数据。


而上面说的每一个功能,都能单独的写一篇长文,所以说要实现一个数据库其实是很麻烦的,因为为了做到可靠,必然会有很多冗余的数据或者冗余的操作来保证可靠,但作为一个成熟的产品,还需要考虑到产品的性能,所以,如何既可靠又性能优良,就变成了一个衡量数据库好坏的标准,当然,在这两点上,目前没人能干过Oracle了。


最小系统的数据库


数据库如此之复杂,我们如何对它进行瘦身 ,来实现一个最小的数据库系统呢?我们可以从另外一个角度想想,就是我们拿数据库是干什么的?那就是存储和查询数据,如果这么来想的话,就能简单不少。


首先,我们知道数据库最重要的功能就是存储数据,那么底层的存储部分是不能少的;其次,存储的数据要提供查询功能,不然存了就没意义了,这也是不能少的;第三,需要提供一个对外的接口可以和用户交互,不然就既不能存也不能查了。


所以,一个最最基本的数据库至少应该包含数据层,查询层(引擎层)和UI(用户接口)层三层,那么我们就用几个简单的文件来实现这三层,完成一个最小的数据库吧。


存储层


数据库的基本单位是,再上一级的基本单位就是了,而且我们在建表的时候都会指定列的名称、类型、长度这三个最基本的属性,如果所有列都有这三个属性,那么其实我们是知道每一行数据最多有多少字节的。所以,我们可以设定没一行数据的长度都是定长的,那么整个表的长度也是定长的了,这样查询的时候可以根据行的长度进行快速定位数据,所以,我们的最底层数据就是一个定长的表格了,每一列存储的时候就像下面这样,然后有个meta信息来存储列的属性:

20160803020517753.jpg


这个看上去很简单吧?也容易实现吧,其实很多数据库也基本上确实是这么实现的,并不难理解吧?稍微注意一下的是每一列存储的时候,每个字段的前四个字节保存的是这个字段的实际长度,然后才是字段的实际内容,如果长度小于建表时的设定长度,那么有一部分空间是浪费掉的,虽然是浪费了,但还是值得的,因为可以让查询的时候省不少事。


这么下来,每行记录就是一个定长的,而一个数据库的表就是一个二进制文件了,但仅仅是这样还是不够的,因为这样结构,无论什么查询都需要扫描全表,依次进行判断,而我们在建表的时候都会建立索引,为了建立索引,我们还得实现一个B+树来存储索引,而B+树基本上是所有数据库的索引保存的数据结构,这里我们也有实现。


总之,数据底层我们就用了一个定长的二进制文件和几棵B+树,再加上一个meta信息文件来实现了一个数据库的底层数据层,很简单哈,但基本上包括了数据库真实的底层,虽然真正的数据库比这复杂多了,但也跑不掉这几个数据结构,整个看下来,数据层的数据结构大体上长这样子。


20160803020500758.jpg


当然,数据层实现完了以后,还需要对上提供几个简单的接口,比如:


  • 建表接口 CreateTable( []FieldInfo ),参数是每个字段的信息,包括字段的名称,长度,类型

  • 数据插入接口 AddData(map[string]string) ,参数是一个map,key是字段名称,value是字段内容

  • 单字段查询接口 Find(fieldname,fieldvalue,op),参数是字段名称,字段值,操作类型(大于,小于,等于)

  • 数据获取接口 GetData(docid),参数是docid,用来计算在文件中的偏移


查询层


底层已经有了,接下来就是上面的查询层(引擎层)了。这里我没用引擎两个字,是因为最小数据库的实现上,实在算不上一个引擎系统,我们实现最简单的基本查询SQL(建表SQL、插入数据SQL、单表查询SQL的解析。在实际中,SQL的解析是一个异常复杂的工程,涉及到语法分析、预处理、优化查询等几个大的部分,因为SQL其实是一门编程语言,要解析一门编程语言,那么编译原理那一套基本上都会用得到。


这里我们换条路子,因为只实现三种简单的SQL语句,那么我们直接用正则和字符串的匹配来对SQL进行解析,解析完成以后变成一个个数据层的对外接口,建表和插入数据都比较简单,解析了SQL以后直接调用上面的第一和第二接口就行了。


数据查询的时候,对查询SQL的WHERE之后的部分,用了个小算法,就是逆波兰表达式来对WHERE之后的语句进行解析,变成一个栈结构来存储查询的内容,然后通过弹栈的方式一个一个调用接口三,并且对结果进行求交和求并的操作,最后得到结果以后,再依次调用接口四获取最后的结果。如果对逆波兰表达式不了解,那么请自行百度一下,很简单的,主要用在对四则运算的优先级的解析中。


查询层的输入输出很简单,他对外实际上只提供一个接口。ExecSqlSentence( Sql ) string,都是字符串,输入是一条条的SQL语句,输出是数据。


UI层(用户接口层)


对于用户的接口层就更加简单了,我们只需要提供一个TCP服务就行了,用分号来分割每次用户的输入,也就是说,我们telnet上我们这个数据库,然后输入SQL,数据库就会返回数据了。


具体实现


我在github上建立了一个新的工程叫SparrowSys,麻雀工程,意思很明显,这是一个后端的麻雀,是最简单的后端轮子,目前我也已经提交了一部分代码,数据库的还没有写完,后面会补上的。


数据库的部分在src下的SparrowDB里面,很明显的看到里面有DataLayer,EngineLayer,NetLayer,对应的就是上面的三层,每层里面有一到两个文件,都很简单。目前DataLayer基本完成了,后面会把EngineLayer和NetLayer补上,后面的文章会说说使用,utils文件夹中是一些公共的东西,后面的其他轮子会用到的,比如B+树就在utils里面。


目前这个工程里面东西不多,不建议看,后面我补全以后会说明,欢迎大家提交你的实现来代替我的。接受任何pull request。


最近比较忙,没时间写代码,先放出文章,等代码补充完整了再说说测试效果。点击后面网址,可跳到github代码库。https://github.com/wyh267/SparrowSys

作者:吴坚


本文来自云栖社区合作伙伴"DBAplus",原文发布时间:2016-08-03

目录
相关文章
|
20天前
|
网络协议 关系型数据库 Linux
Linux系统中如何开启和配置OpenGauss数据库的远程连接
openGauss是一款开源关系型数据库管理系统,采用木兰宽松许可证v2发行。openGauss内核深度融合华为在数据库领域多年的经验,结合企业级场景需求,持续构建竞争力特性.
|
1天前
|
开发框架 Oracle 关系型数据库
ASP.NET实验室LIS系统源码 Oracle数据库
LIS是HIS的一个组成部分,通过与HIS的无缝连接可以共享HIS中的信息资源,使检验科能与门诊部、住院部、财务科和临床科室等全院各部门之间协同工作。 
15 4
|
2天前
|
关系型数据库 MySQL Linux
MySQL 数据库安装详解(linux系统和windows系统)
MySQL 数据库是一种广泛使用的开源关系数据库管理系统。在 Linux 和 Windows 系统上安装 MySQL 数据库的步骤略有不同。
16 0
|
17天前
|
关系型数据库 MySQL 数据库
MySQL技能完整学习列表——1、数据库基础概念——2、数据库管理系统(DBMS)——3、数据模型(Data Model)
MySQL技能完整学习列表——1、数据库基础概念——2、数据库管理系统(DBMS)——3、数据模型(Data Model)
14 0
|
23天前
|
存储 BI 数据库
SAP ABAP 系统数据库表 TFDIR的作用介绍
SAP ABAP 系统数据库表 TFDIR的作用介绍
20 1
|
24天前
|
前端开发 Java 数据库
现代数据库管理系统及其应用
现代数据库管理系统(DBMS)是计算机科学领域的重要组成部分,它在各个行业和领域中发挥着重要作用。本文将介绍数据库管理系统的基本概念、特点和分类,并探讨其在前端开发、后端开发以及Java、Python和C等编程语言中的应用。
|
25天前
|
Cloud Native 关系型数据库 分布式数据库
凭安征信引入阿里云PolarDB云数据库支撑企业征信核心业务系统
凭安征信是国家中小企业公共服务示范平台,主营信用管理服务包括信用管家、水滴信用及可信认证。通过采用阿里云PolarDB云原生数据库替代RDS数据库帮助客户全面实现业务系统性能提升1-2倍,通过PolarDB企业级能力的加持下,运维更加简便,操作更加简单,数据安全能力更强。
|
26天前
|
存储 数据库 开发者
现代数据库管理系统中的索引设计与优化
索引是数据库管理系统中的重要组成部分,对于提高查询性能和数据访问效率至关重要。本文将探讨现代数据库管理系统中的索引设计与优化策略,包括索引类型、索引选择原则、索引优化技巧等。通过深入理解索引的内部工作原理和优化策略,开发者可以更好地利用索引提升数据库性能。
|
26天前
|
存储 供应链 安全
新一代数据库技术——基于区块链的分布式存储系统
传统数据库系统通常采用集中式存储结构,容易受到单点故障和数据篡改的影响。本文将介绍基于区块链技术的分布式存储系统,探讨其在数据库领域的应用和优势,以及面临的挑战和未来发展趋势。
26 1
|
1月前
|
缓存 关系型数据库 数据库
构建高效后端系统的数据库优化策略
在后端开发中,数据库是核心组件之一,对系统性能和稳定性有着重要影响。本文将介绍一些常见的数据库优化策略,包括数据模型设计、索引优化、查询优化和缓存策略等,在实际开发中帮助提升后端系统的性能和响应速度。

热门文章

最新文章