快来,立即涨薪 " 5k " 的数据库系统知识!!!

本文涉及的产品
云数据库 RDS MySQL,集群版 2核4GB 100GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
全局流量管理 GTM,标准版 1个月
简介: 快来,立即涨薪 " 5k " 的数据库系统知识!!!

在网上我们能看到各种各样的数据库分享知识,学了那么多,是否感觉零零散散学的知识 第二天就逐渐遗忘了,是否又感觉学的知识像浮萍,找不到根,出入口亦找不到,那是你欠缺系统学习,接下来,让我们一起来系统的深入学习一下吧!!!

Mysql逻辑体系架构(大致架构分为三层)

第一层:连接线程处理

客户端——>连接线程处理(连接处理,授权认证,安全)
所包含的服务并不是mysql所独有的技术,他们都是服务于C/S程序或者这些程序所需要的
(连接处理,授权认证,安全性等等)

第二层:包含大部分mysql核心服务

查询缓存——>解析器——>优化器——>执行查询
查询缓存,解析,分析,优化,缓存,所有内置函数(日期,时间,数学和加密函数)
同时,所有的存储引擎提供的功能都集中在这一层(存储过程,触发器,视图)
流程:在解析查询之前,要先查询缓存,缓存只能保存查询的信息和结果数据,如果请求一个查询在缓存
中存在,就不需要解析,优化和执行查询了,直接返回缓存中所存放的这个查询的结果

第三层:包含存储引擎

存储引擎负责mysql中数据的存储和提取(和Linux下的文件系统类似),每种存储引擎都有优势及劣势
中间的服务层通过API和存储引擎进行通信,这些API接口屏蔽了不同存储引擎之间的差异,对于查询层
尽可能的透明化。

存储引擎API包含了十几个底层函数,如执行 “ 开始一个事务 ” ,或取出有特定主键的行,但存储引擎 一般不会去解析SQL, (InnoDB会解析外键定义,因为其本身没有实现该功能),不同存储引擎之间也不会相互通信, 而只是简单的响应上层的服务器请求。

Mysql逻辑体系架构—详细介绍(分为八个步骤)

1.Connectors

指的是不同预言中与SQL的交互

Nactive C API,JDBC,ODBC,.NET,PHP,Python,Perl,Ruby,VB

2.Enterprise Management Services & Utilities

系统管理和控制工具

Backup & Recovery,Security,Replication,Cluster,Partitioning,Instance Manager,
INPORMATICN_SCHEMA,Administrator,Workbench,Query Browser,Migration Toolkit

3.Connection Pool(连接池)

管理缓冲用户连接,线程处理等需要缓存的需求。

负责监听对MySQL Server的各种请求,接受连接请求,转发 所有连接请求到线程管理模块。每一个连接上MySQL Server的客户端请求都会被分配(创建)一个连接线程为 其单独服务,并对连接线程进行了缓存,因此不需要为每个client连接单独创建和销毁,而连接线程的主要工作 就是负责MySQL Server与客户端的通信,接收客户端的命令请求,传递Server端的结果信息,线程管理模块则 负责管理维护这些连接线程,包括线程的创建,线程的cache等等

Authentication -Thread Reuse - Connection Limits - Check Memory -Caches

4.SQL Interface(SQL接口)

接受用户的SQL命令,并且返回用户需要查询返回的结果,比如select from就是调用SQL Interface

DML,DDL,Stored Procedures,Views,Triggers,etc

5.Parser(解析器)

SQL命令传递到解析器的时候会被解析器验证和解析,解析器是由Lex和YACC实现的,是一个很长的脚本, 在MySQL中我们习惯将所有Client端发给Server端的命令都称为query,在MySQL Server里面,连接线程 接收到客户端的一个Query后,会直接将query传递给专门负责将各种Query进行分类然后转发给各个对应 的处理模块

主要功能:

  • a.将SQL语句进行语义和语法分析,分解成数据结构,然后按照+同的操作类型进行分类,做出针对性的 转发到后续步骤,以后SQL语句的传递和处理就是基于这个结构的
  • b.如果在分解构成中遇到错误,那么就说明这个sql语句是不合理的
Query Translation,Object Privilege

6.Optimizer(查询优化器)

SQL语句在查询之前会使用查询优化器对查询进行优化,就是优化客户端请求query,根据客户 端请求的query语句和数据库中的一些统计信息,在一系列算法基础上进行分析,得出一个最优策略,告诉后 面的程序如何取得这个query语句的结果,使用的是 “选取-投影-联接”  策略进行查询;

比如:select uid,name from user where gender=1;

这个查询语句先根据where后面的语句进行选取,而不是先将表全部查询出来以后再进行gender过滤,然后根 据uid和name进行属性投影,而不是将所有的属性全部取出来以后再进行过滤,最后将这两个查询条件联接 起来生成最终的查询结果

Access Paths,Statistics

7.Cache 和 Buffer(查询缓存)

主要功能是将客户端提交给 Mysql 的 Select的类query请求的返回的结果集cache到内存中,与该query的一个hash值做一个对应,该query所取数据的基表发生任何数据的变化之后,MySQL会自动使该query的Cache失效,在读写比例非常高的的应用系统中,Query Cache对性能的提高是非常显著的,当然它对内存的消耗也是非常大的。

如果查询缓存中有有效的命中查询结果,查询语句就可以直接去查询缓存中取数据,这个缓存机制是由一系列 小缓存组成的,比如表缓存,记录缓存,Key缓存,权限缓存等等

Global and Engine Specific Caches & Buffers

8.pluggable storage Engines(插件式存储引擎)

存储引擎接口:MySQL区别于其他数据库的最重要的特点就是其插件式的表存储引擎。MySQL插件式的存储引擎 架构提供了一系列标准的管理和服务支持,这些标准与存储引擎本身无关,可能是每个数据库系统都必须的, 比如SQL分析器和优化器等,而存储引擎是底层物理结构的实现。每个存储引擎开发者都可以按照自己的意 愿进行开发。

9.file system

文件系统,数据,日志(redo,undo)索引,错误日志,查询记录,慢查询等

注意:存储引擎是基于表的,而不是数据库

数据库的工作流程

  • 最上层:客户端连接
1.连接处理:客户端同数据库服务层建立TCP连接,连接管理模块会建立连接,并请求一个连接线程,如果连接
池中有空闲的连接线程,则分配给这个连接,如果没有,在没有超过最大线程连接数的情况下,创建新的连接
线程负责这个客户端
2.授权认证:在query操作之前,还需要调用用户模块进行授权检查,来验证用户是否有权限,通过后,
方才提供服务,连接线程开始接受并处理来自客户端的SQL语句
  • 第二层:核心服务
1.连接线程接收到SQL语句之后,将语句交给SQL语句解析模块进行语法和语义分析。
2.如果是一个查询语句,则可以先看查询缓存中是否有结果,如果有结果则直接返回给客户端。
3.如果查询缓存中没有结果,则需要查询数据库引擎层,将SQL语句发给优化器,进行查询的优化,如果是表变
更,则分类交给insert,update,delete,create,alert处理模块进行处理
  • 第三层:数据库引擎层
1.打开表,如果需要的话获取相应的锁。
2.先查询缓存页中有没有相应的数据,如果有则可以直接返回,如果没有则从磁盘上去读取
3.当在磁盘中找到相应的数据之后,则会加载到缓存中来,从而使得后面的查询更加的高效,由于缓存有限,多
采用变通的LRU表来管理缓存页,保证缓存的都是经常访问的数据。
4.最后,获取数据后返回给客户端,关闭连接,释放连接线程。

FAQ分析

1.什么是插件式存储引擎

存储引擎就是将数据对磁盘进行读写操作,不同的存储引擎,读写操作方式也不同,事务,锁等都不一样因为
我们有不同的业务需求,所以会有很多的存储引擎,在一个数据库中,因为存储引擎是基于表的,所以不同的
表可以有不同的存储引擎,允许将存储引擎加载到正在运行的MySQL服务器中,这就是插件式存储引擎

2.什么是LRU缓存

一种缓存淘汰机制策略算法,因为缓存的内存总是有限的,所以缓存满了就要删除一些内容,给新内容腾位置,
而在LRU机制下,淘汰的数据被称为无用数据,LRU的全称是Least Recently Used,也就是我们认为最近使用
过的数据都是有用的,很久都没用过的数据应该就是无用的,内存满了就优先删除那些最近很久没用过的数据

在JVM中Ehcache的缓存策略包含

  1. LRU - least recently used(最近最少使用)
  2. LFU - least frequently used(最不经常使用)
  3. FIFO - first in first out, the oldest element by creation time (清除最早缓存的数据,不关心是否经常使用)

总结

本篇文章详细讲解了mysql的逻辑架构及数据库工作流程,后期会逐步从下至上带你系统深入学习数据库的真正原理

精彩的文章一定不能错过哦,我们下期再见!

相关文章
|
3月前
|
存储 SQL 关系型数据库
【周末闲谈】关于“数据库”你又知道多少?
【周末闲谈】关于“数据库”你又知道多少?
105 0
|
SQL 存储 NoSQL
个人眼中关于当下数据库的看法
当下主流数据库,哪个最火?这是一个备受关注的话题。目前,主流数据库主要有关系型数据库和NoSQL数据库。关系型数据库是目前应用最广泛的数据库,而NoSQL数据库则是近年来发展很快的新型数据库。接下来将以MongoDB等NoSQL数据库为例,探讨其优势和适用场景。
221 1
个人眼中关于当下数据库的看法
|
11月前
|
SQL 存储 数据库
华为数据库工程师面试题目
华为数据库工程师面试题目
87 0
|
11月前
|
存储 SQL 数据处理
神了!阿里P8级数据库专家手写出了这份438页数据库高效优化手册
数据库系统 数据库系统(Database System),是由数据库及其管理软件组成的系统。 数据库系统是为适应数据处理的需要而发展起来的一种较为理想的数据处理系统,也是一个为实际可运行的存储、维护和应用系统提供数据的软件系统,是存储介质 、处理对象和管理系统的集合体。
290 0
|
SQL 数据库 索引
自考实践课——数据库
自考实践课——数据库
64 0
|
Cloud Native 数据管理 数据库
|
SQL 存储 设计模式
强烈推荐 10 本我私藏的数据库书单,附读书方法
强烈推荐 10 本我私藏的数据库书单,附读书方法
208 0
|
运维 资源调度 监控
数据库大讲堂·第三期 亲历阿里云0到1的数据库老司机解密数据库资源调度的艺术
数据库大讲堂第三期课程由阿里云高级产品专家陈招尚(胜通)为大家介绍亲历阿里云0到1的数据库老司机解密数据库资源调度的艺术,解读DBA职业发展、云数据库技术趋势、云上数据库调度最佳实践等内容。 关键词:数据库资源调度、数据库部署、专属集群
2195 0
数据库大讲堂·第三期 亲历阿里云0到1的数据库老司机解密数据库资源调度的艺术