MySQL数据库的schema设计优化

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 本文介绍了数据库schema常见的一些缺陷,以及一些优化方法。

MySQL schema设计中的缺陷

太多的列

MySQL的存储引擎API工作时需要在服务器层和存储引擎层之间通过行缓冲格式拷贝数据,然后在服务器层将缓冲内容解码成各个列。从行缓冲中将编码过的列转换成行数据结构的代价是十分大的。而转换的代价依赖与列的数量。当我们研究一个CPU占用非常高的案例时,发现客户使用了非常宽的表,然而只有一小部分的列会实际用到,这时候转换的代价就非常高了。

MySQL限制了每个关联操作最多只能有61个表,一个粗略的经验,如果希望查询执行的快速且并发性好,单个查询最好在12个表以内做关联。

全能的枚举

注意放置过度使用枚举

你别一个枚举,举了个数字全集出来,那就不礼貌了。

变相的枚举

枚举列允许在列中存储一组定义值中的单个值,集合set列则允许在列中存储一组定义值中的一个或多个值。

比如

create TABLE 。。。 (
is_default set('Y','N') NOT NULL default 'N'
)

这里我们需要注意到这个真假的情况是不会同时出现的,那么我们就应该毫无疑问的使用枚举而不是这个set。

非此发明的null

我们之前写了避免使用null的好处,并且建议尽可能的考虑替代方案。比如我们可以用0,或者一些特殊字符去代替null。

但是遵循这一原则也不要走极端。当确实需要表示未知值时也不要害怕使用null。

范式和反范式

​ 范式:

范式是符合某一种级别的关系模式的集合。关系数据库中的关系必须满足一定的要求,满足不同程度要求的为不同范式。

第一范式(1NF)

在任何一个关系数据库中,第一范式(1NF) [2] 是对关系模式的基本要求,不满足第一范式(1NF)的数据库就不是关系数据库。

第二范式(2NF)

是在第一范式(1NF)的基础上建立起来的,即满足第二范式(2NF)必须先满足第一范式(1NF)。第二范式(2NF)要求数据库表中的每个[实例]或行必须可以被唯一地区分。为实现区分通常需要为表加上一个列,以存储各个实例的唯一标识。这个唯一属性列被称为[主关键字]或主键、主码。

范式的优点和缺点

优点:

  • 范式化的更新操作比反范式化的更新要快
  • 当数据较好的范式化,就只有很少或者较少的重复数据,所以只需要修改更是少的数据。
  • 范式化的表通常更小,可以更好的放在内存里,所以执行的操作会更快。
  • 很少的重复数据也就意味着在select时我们会更少的使用distinct或者group by 语句。

缺点:

  • 需要关联

反范式化的优点和缺点

反范式化的schema因为所有的数据都在一张表中,所以很好的避免了关联。

混用范式化和反范式化

最常见的反范式化数据的方法就是复制或者缓存,在不同的表里存储相同的特定列。我们还可以使用触发器更新缓存值,这使得实现这样的方案变得更简单。

缓存表和汇总表

有时候提升性能的最好方法是在同一张表中保存衍生的冗余数据。然而,有时也需要创建一张完全独立的汇总表或缓存表。

我们用术语缓存表来表示存储那些可以比较简单的从schema其他表获得的数据的表。而术语汇总表,则保存的是使用group by 语句聚合数据的表。

我们使用汇总表,要远比我们扫描表的全部行要有效的多。

缓存表则相反,其对优化搜索和检索查询语句很有效。这些查询语句经常需要特殊的表和索引结构。例如:可能会需要很多不同的索引组合来加速各种类型的查询。这些矛盾的需求有时候要创建一张只包含主表中部分列的缓存表。一个有用的技巧是我吗可以使用不同的存储引擎。比如说,主表使用innodb,我吗可以把myisam作为缓存表的引擎,这样会得到更小的索引占用空间,并且可以做全文搜索。

在使用缓存表和汇总表的时候,我吗必须决定到底是实时维护数据还是定期重建。那个更好依赖于应用程序,但是定期重建并不只是节省资源,也可以保持表不会有那么多的碎片,以及有完全顺序组织的索引。

当然为了安全 ,我们还会在重建这些表的时候使用一个影子表,来保证数据在操作过程也是可以使用的。

物化视图

计数器表

计数器表是一个经常会用到的东西,我们使用单独的表可以帮助避免查询缓存失效。

下面我们要展示呢一些更高级的技巧:

你比如说,我们有一个计数器表,是记录这个网站的点击次数的这样一个表,但我们每次修改的时候都会有一个全局的互斥锁,这也就导致了这些事务只能串行执行。我们要是想获得更好的性能,就可以将计数器保存在多行,每次随机选择一行进行更新。我们对这个计数表这样更新:

CREATE TABLE hit_counter(
slot tinyint unsigned not null primary key ,
cnt int unsigned not null
)ENGINE = InnoDB

我们预先在表中增加100行数据,选择一个随机的槽进行更新:

UPDATE hit_counter SET cnt = cnt +1 WHERE slot = RAND()*100;

要统计结果,我们就使用下面这样的聚合查询:

SELECT SUM(cnt) FROM hit_counter; 

我们一个常见的需求是每隔一段时间开始一个新的计数器,我们这样修改表:

CREATE TABLE daily_hit_counter(
day date not null,
slot tinyint unsigned not null,
cnt int unsigned not null,
primary key (day,slot)
)ENGINE = InnoDB;

这样的话我们就不要去预先生成行,而用on duplicate key update语句(存在就更新,不存在那就插入)

INSERT INTO daily_hit_counter(day,slot,cnt)
VALUES (CURRENT_DATE,RAND()*100,1)
ON DUPLICATE KEY UPDATE cnt = cnt + 1;

如果希望减少表的行数,避免表变得太大,可以写一个周期执行的任务,合并所有结果到0号槽,并且删除所有其他的槽:

UPDATE daily_hit_counter as c
    INNER JOIN (
    SELECT day,SUM(cnt)AS cnt,MIN(slot)AS mslot
    FROM daily_hit_counter
    GROUP BY day
    )AS x USING(day)
SET  c.cnt = IF(c.slot = x.mslot,x.slot,0),
    c.slot = IF (c.slot = x.mslot,0,c.slot);
DELETE FROM daily_hit_counter WHERE slot <>0 AND cnt = 0;

加快alter TABLE操作的速度

MySQL对于大表的alter TABLE一直是一个大问题。mysql执行大部分的修改表的结构操作的方法是用新的结构创建一个空表,然后把旧表里的数据插入到新表。

对于常见的场景,能使用的场景只有两种:

  • 先在一台不提供服务的机器上执行ALTER TABLE 操作,然后和提供服务的主库进行切换
  • 影子拷贝:用要求的表结构创建一张和源表无关的新表,然后通过重命名和删表操作交换两张表。

不是所有的alter TABLE操作都会引起表重建。例如,有两个方法可以改变或者删除一个列的默认值(一种方法很快,一种很慢)。

慢的方式:

ALTER TABLE sakila.film 
MODIFY COLUMN rental_duration TINYINT(3) NOT NULL DEFAULT 5;

这种方式是比较慢的,因为modify这种方式是要导致表的重建的。

ALTER TABLE sakila.film 
ALTER  COLUMN rental_duration  SET DEFAULT 5;

这种alter的方式就很快,因为他是直接修改.firm文件而不涉及表数据。所以这个操作是特别快的。

只修改.frm文件

快速创建索引

相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
1天前
|
SQL 存储 关系型数据库
Mysql优化提高笔记整理,来自于一位鹅厂大佬的笔记,阿里P7亲自教你
Mysql优化提高笔记整理,来自于一位鹅厂大佬的笔记,阿里P7亲自教你
|
2天前
|
SQL 存储 关系型数据库
【MySQL】SQL 优化
【MySQL】SQL 优化
19 0
|
2天前
|
SQL 缓存 大数据
优化数据库性能的五大策略
传统的数据库性能优化常常集中在SQL查询优化和索引设计上,然而,在当今大数据时代,优化数据库性能需要综合考虑更多因素。本文将介绍五大策略,从硬件资源利用、数据模型设计、查询优化、缓存策略到数据库配置调整,为您提供全面的数据库性能优化方案。
|
2天前
|
数据库
编程日记02:个人站优化数据库和日志
编程日记02:个人站优化数据库和日志
10 0
|
2天前
|
存储 算法 关系型数据库
MySQL连接的原理⭐️4种优化连接的手段性能提升240%🚀
MySQL连接的原理⭐️4种优化连接的手段性能提升240%🚀
|
2天前
|
SQL canal 运维
MySQL高可用架构探秘:主从复制剖析、切换策略、延迟优化与架构选型
MySQL高可用架构探秘:主从复制剖析、切换策略、延迟优化与架构选型
|
2天前
|
存储 算法 关系型数据库
MySQL怎样处理排序⭐️如何优化需要排序的查询?
MySQL怎样处理排序⭐️如何优化需要排序的查询?
|
2天前
|
SQL 存储 关系型数据库
5分钟搞懂MySQL半连接优化⭐️多种半连接的优化策略
5分钟搞懂MySQL半连接优化⭐️多种半连接的优化策略
|
2天前
|
SQL 存储 关系型数据库
MySQL的3种索引合并优化⭐️or到底能不能用索引?
MySQL的3种索引合并优化⭐️or到底能不能用索引?
|
2天前
|
缓存 关系型数据库 数据库
【Docker 专栏】Docker 与容器化数据库的集成与优化
【5月更文挑战第9天】本文探讨了Docker与容器化数据库集成的优势,如快速部署、环境一致性、资源隔离和可扩展性,并列举了常见容器化数据库(如MySQL、PostgreSQL和MongoDB)。讨论了集成方法、注意事项、优化策略,包括资源调整、缓存优化和监控告警。此外,强调了数据备份、恢复测试及性能评估的重要性。未来,随着技术发展,二者的集成将更紧密,为数据管理带来更多可能性。掌握此技术将应对数字化时代的机遇与挑战。
【Docker 专栏】Docker 与容器化数据库的集成与优化

推荐镜像

更多