快来,立即涨薪 " 5k " 的数据库系统知识!!!

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
全局流量管理 GTM,标准版 1个月
简介: 快来,立即涨薪 " 5k " 的数据库系统知识!!!

在网上我们能看到各种各样的数据库分享知识,学了那么多,是否感觉零零散散学的知识 第二天就逐渐遗忘了,是否又感觉学的知识像浮萍,找不到根,出入口亦找不到,那是你欠缺系统学习,接下来,让我们一起来系统的深入学习一下吧!!!

Mysql逻辑体系架构(大致架构分为三层)

第一层:连接线程处理

客户端——>连接线程处理(连接处理,授权认证,安全)
所包含的服务并不是mysql所独有的技术,他们都是服务于C/S程序或者这些程序所需要的
(连接处理,授权认证,安全性等等)

第二层:包含大部分mysql核心服务

查询缓存——>解析器——>优化器——>执行查询
查询缓存,解析,分析,优化,缓存,所有内置函数(日期,时间,数学和加密函数)
同时,所有的存储引擎提供的功能都集中在这一层(存储过程,触发器,视图)
流程:在解析查询之前,要先查询缓存,缓存只能保存查询的信息和结果数据,如果请求一个查询在缓存
中存在,就不需要解析,优化和执行查询了,直接返回缓存中所存放的这个查询的结果

第三层:包含存储引擎

存储引擎负责mysql中数据的存储和提取(和Linux下的文件系统类似),每种存储引擎都有优势及劣势
中间的服务层通过API和存储引擎进行通信,这些API接口屏蔽了不同存储引擎之间的差异,对于查询层
尽可能的透明化。

存储引擎API包含了十几个底层函数,如执行 “ 开始一个事务 ” ,或取出有特定主键的行,但存储引擎 一般不会去解析SQL, (InnoDB会解析外键定义,因为其本身没有实现该功能),不同存储引擎之间也不会相互通信, 而只是简单的响应上层的服务器请求。

Mysql逻辑体系架构—详细介绍(分为八个步骤)

1.Connectors

指的是不同预言中与SQL的交互

Nactive C API,JDBC,ODBC,.NET,PHP,Python,Perl,Ruby,VB

2.Enterprise Management Services & Utilities

系统管理和控制工具

Backup & Recovery,Security,Replication,Cluster,Partitioning,Instance Manager,
INPORMATICN_SCHEMA,Administrator,Workbench,Query Browser,Migration Toolkit

3.Connection Pool(连接池)

管理缓冲用户连接,线程处理等需要缓存的需求。

负责监听对MySQL Server的各种请求,接受连接请求,转发 所有连接请求到线程管理模块。每一个连接上MySQL Server的客户端请求都会被分配(创建)一个连接线程为 其单独服务,并对连接线程进行了缓存,因此不需要为每个client连接单独创建和销毁,而连接线程的主要工作 就是负责MySQL Server与客户端的通信,接收客户端的命令请求,传递Server端的结果信息,线程管理模块则 负责管理维护这些连接线程,包括线程的创建,线程的cache等等

Authentication -Thread Reuse - Connection Limits - Check Memory -Caches

4.SQL Interface(SQL接口)

接受用户的SQL命令,并且返回用户需要查询返回的结果,比如select from就是调用SQL Interface

DML,DDL,Stored Procedures,Views,Triggers,etc

5.Parser(解析器)

SQL命令传递到解析器的时候会被解析器验证和解析,解析器是由Lex和YACC实现的,是一个很长的脚本, 在MySQL中我们习惯将所有Client端发给Server端的命令都称为query,在MySQL Server里面,连接线程 接收到客户端的一个Query后,会直接将query传递给专门负责将各种Query进行分类然后转发给各个对应 的处理模块

主要功能:

  • a.将SQL语句进行语义和语法分析,分解成数据结构,然后按照+同的操作类型进行分类,做出针对性的 转发到后续步骤,以后SQL语句的传递和处理就是基于这个结构的
  • b.如果在分解构成中遇到错误,那么就说明这个sql语句是不合理的
Query Translation,Object Privilege

6.Optimizer(查询优化器)

SQL语句在查询之前会使用查询优化器对查询进行优化,就是优化客户端请求query,根据客户 端请求的query语句和数据库中的一些统计信息,在一系列算法基础上进行分析,得出一个最优策略,告诉后 面的程序如何取得这个query语句的结果,使用的是 “选取-投影-联接”  策略进行查询;

比如:select uid,name from user where gender=1;

这个查询语句先根据where后面的语句进行选取,而不是先将表全部查询出来以后再进行gender过滤,然后根 据uid和name进行属性投影,而不是将所有的属性全部取出来以后再进行过滤,最后将这两个查询条件联接 起来生成最终的查询结果

Access Paths,Statistics

7.Cache 和 Buffer(查询缓存)

主要功能是将客户端提交给 Mysql 的 Select的类query请求的返回的结果集cache到内存中,与该query的一个hash值做一个对应,该query所取数据的基表发生任何数据的变化之后,MySQL会自动使该query的Cache失效,在读写比例非常高的的应用系统中,Query Cache对性能的提高是非常显著的,当然它对内存的消耗也是非常大的。

如果查询缓存中有有效的命中查询结果,查询语句就可以直接去查询缓存中取数据,这个缓存机制是由一系列 小缓存组成的,比如表缓存,记录缓存,Key缓存,权限缓存等等

Global and Engine Specific Caches & Buffers

8.pluggable storage Engines(插件式存储引擎)

存储引擎接口:MySQL区别于其他数据库的最重要的特点就是其插件式的表存储引擎。MySQL插件式的存储引擎 架构提供了一系列标准的管理和服务支持,这些标准与存储引擎本身无关,可能是每个数据库系统都必须的, 比如SQL分析器和优化器等,而存储引擎是底层物理结构的实现。每个存储引擎开发者都可以按照自己的意 愿进行开发。

9.file system

文件系统,数据,日志(redo,undo)索引,错误日志,查询记录,慢查询等

注意:存储引擎是基于表的,而不是数据库

数据库的工作流程

  • 最上层:客户端连接
1.连接处理:客户端同数据库服务层建立TCP连接,连接管理模块会建立连接,并请求一个连接线程,如果连接
池中有空闲的连接线程,则分配给这个连接,如果没有,在没有超过最大线程连接数的情况下,创建新的连接
线程负责这个客户端
2.授权认证:在query操作之前,还需要调用用户模块进行授权检查,来验证用户是否有权限,通过后,
方才提供服务,连接线程开始接受并处理来自客户端的SQL语句
  • 第二层:核心服务
1.连接线程接收到SQL语句之后,将语句交给SQL语句解析模块进行语法和语义分析。
2.如果是一个查询语句,则可以先看查询缓存中是否有结果,如果有结果则直接返回给客户端。
3.如果查询缓存中没有结果,则需要查询数据库引擎层,将SQL语句发给优化器,进行查询的优化,如果是表变
更,则分类交给insert,update,delete,create,alert处理模块进行处理
  • 第三层:数据库引擎层
1.打开表,如果需要的话获取相应的锁。
2.先查询缓存页中有没有相应的数据,如果有则可以直接返回,如果没有则从磁盘上去读取
3.当在磁盘中找到相应的数据之后,则会加载到缓存中来,从而使得后面的查询更加的高效,由于缓存有限,多
采用变通的LRU表来管理缓存页,保证缓存的都是经常访问的数据。
4.最后,获取数据后返回给客户端,关闭连接,释放连接线程。

FAQ分析

1.什么是插件式存储引擎

存储引擎就是将数据对磁盘进行读写操作,不同的存储引擎,读写操作方式也不同,事务,锁等都不一样因为
我们有不同的业务需求,所以会有很多的存储引擎,在一个数据库中,因为存储引擎是基于表的,所以不同的
表可以有不同的存储引擎,允许将存储引擎加载到正在运行的MySQL服务器中,这就是插件式存储引擎

2.什么是LRU缓存

一种缓存淘汰机制策略算法,因为缓存的内存总是有限的,所以缓存满了就要删除一些内容,给新内容腾位置,
而在LRU机制下,淘汰的数据被称为无用数据,LRU的全称是Least Recently Used,也就是我们认为最近使用
过的数据都是有用的,很久都没用过的数据应该就是无用的,内存满了就优先删除那些最近很久没用过的数据

在JVM中Ehcache的缓存策略包含

  1. LRU - least recently used(最近最少使用)
  2. LFU - least frequently used(最不经常使用)
  3. FIFO - first in first out, the oldest element by creation time (清除最早缓存的数据,不关心是否经常使用)

总结

本篇文章详细讲解了mysql的逻辑架构及数据库工作流程,后期会逐步从下至上带你系统深入学习数据库的真正原理

精彩的文章一定不能错过哦,我们下期再见!

相关文章
|
SQL 存储 NoSQL
个人眼中关于当下数据库的看法
当下主流数据库,哪个最火?这是一个备受关注的话题。目前,主流数据库主要有关系型数据库和NoSQL数据库。关系型数据库是目前应用最广泛的数据库,而NoSQL数据库则是近年来发展很快的新型数据库。接下来将以MongoDB等NoSQL数据库为例,探讨其优势和适用场景。
250 1
个人眼中关于当下数据库的看法
|
存储 算法 数据库
CMU 15-445 数据库课程第五课文字版 - 缓冲池(上)
CMU 15-445 数据库课程第五课文字版 - 缓冲池(上)
CMU 15-445 数据库课程第五课文字版 - 缓冲池(上)
|
SQL 数据库 索引
自考实践课——数据库
自考实践课——数据库
78 0
|
Cloud Native 数据管理 数据库
|
存储 缓存 数据库
CMU 15-445 数据库课程第五课文字版 - 缓冲池(中)
CMU 15-445 数据库课程第五课文字版 - 缓冲池(中)
CMU 15-445 数据库课程第五课文字版 - 缓冲池(中)
|
存储 缓存 自然语言处理
CMU 15-445 数据库课程第五课文字版 - 缓冲池(下)
CMU 15-445 数据库课程第五课文字版 - 缓冲池(下)
CMU 15-445 数据库课程第五课文字版 - 缓冲池(下)
|
数据库 人工智能 大数据
|
SQL 运维 数据可视化
职场里,对数据库要有敬畏之心!
时常有听到各公司数据库故障的案例,比如数据库宕机了、误删数据了、恶意删库了等等。可能还有更多的故障没有披露出来。每次发生此类事件,都会在互联网圈引起热议,其实更应该留下的是警醒,我们应该足够重视数据库安全问题,对数据库要有敬畏之心。
150 0
|
存储 数据库
软件评测师笔记(六)—— 数据库
软件评测师笔记(六)—— 数据库
174 0
下一篇
DataWorks