关于MySQL分库分表--简单想法

本文涉及的产品
RDS AI 助手,专业版
RDS MySQL DuckDB 分析主实例,基础系列 4核8GB
RDS MySQL DuckDB 分析主实例,集群系列 4核8GB
简介:






本文转自 位鹏飞 51CTO博客,原文链接:http://blog.51cto.com/weipengfei/1333460,如需转载请自行联系原作者为提高业务响应时间,避免OS处理过大的文件,修改MySQL表结构应用更顺畅,分库分表是最好的选择;大致的两个思路是:

   1、数据表容量一定,表的个数不限;

   2、数据表的个数一定,容量递增;

   针对表容量一定,有以下思路:称之为step方式:

          按照splitField取整存放:databasesize 代表该数据库总记录行数,tablesize 代表 表的记录数

    例如一个数据表里最多100万条记录,每个数据库最多放10个表。则databaseSize=1000万。tableSize=100.

           假定splitField=N时,则该记录在dbPrefix + (int)Math.ceil((N/(databaseSize*1.0)))数据库

    数据表为 tbPrefix + (int)Math.ceil((N/(tableSize*1.0)))

          则数据库的编号从1开始,db1,db2,....,dbN(N根据splitField的无限增大而动态扩张)

          db1里面的表为tb1,tb2,...,tb10

          db2里面的表为tb11,tb12,...,tb20.

          db10里面的表为tb91,tb92,...,tb100.

          这样已经做好扩展,每个表的容量一定,表的个数不限,比较适合QQ群的方式,也不存在数据冷热问题;

         按照以上的方式,对于像视频评论,或者微博评论来说 就容易出现 访问没有实现负载均衡,易出现太多的热点;

         用取模mode方式还是比较合适的:

        下面讨论下标的个数一定,容量递增;取模是最好的负载均衡,针对热门评论,可以实现很好的负载均衡;

         其实这个大家一看是有一个明显问题的,就是扩容时需要迁移数据的;所以规定表的个数是很关键的;

        splitType=mode时,数据库的数量恒定为databaseSize,每个库的表的数量恒定为tableSize张表,按照splitField取模存放

   假定splitField=N时,则该记录在dbPrefix + (N%databaseSize)数据库

   数据表为 tbPrefix + N%(tableSize*databaseSize)

        例如分拆4个库,每个数据库里四张表。则数据库编号从0开始,db0,db1,db2,db3

        db0里面的数据表为db0,db4,db8,db12

        db1里面的数据表为db1,db5,db9,db13

        db2里面的数据表为db2,db6,db10,db14

        db3里面的数据表为db3,db7,db11,db15

        感谢总监的帮助!

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
目录
相关文章
|
存储 SQL 关系型数据库
MySQL分库分表
MySQL分库分表
165 0
|
SQL 存储 关系型数据库
Mysql系列-5.Mysql分库分表(中)
Mysql系列-5.Mysql分库分表
164 0
|
7月前
|
关系型数据库 MySQL Java
MySQL 分库分表 + 平滑扩容方案 (秒懂+史上最全)
MySQL 分库分表 + 平滑扩容方案 (秒懂+史上最全)
|
存储 算法 关系型数据库
(二十二)全解MySQL之分库分表后带来的“副作用”一站式解决方案!
上篇《分库分表的正确姿势》中已经将分库分表的方法论全面阐述清楚了,总体看下来用一个字形容,那就是爽!尤其是分库分表技术能够让数据存储层真正成为三高架构,但前面爽是爽了,接着一起来看看分库分表后产生一系列的后患问题,注意我这里的用词,是一系列而不是几个,也就是分库分表虽然好,但你要解决的问题是海量的。
1275 4
|
11月前
|
关系型数据库 MySQL 数据库
|
NoSQL 关系型数据库 MySQL
实时计算 Flink版操作报错之同步MySQL分库分表500张表报连接超时,是什么原因
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
Java 关系型数据库 MySQL
MySQL 分库分表方案
本文总结了数据库分库分表的相关概念和实践,针对单张表数据量过大及增长迅速的问题,介绍了垂直和水平切分的方式及其适用场景。文章分析了分库分表后可能面临的事务支持、多库结果集合并、跨库join等问题,并列举了几种常见的开源分库分表中间件。最后强调了不建议水平分库分表的原因,帮助读者在规划时规避潜在问题。
1155 20
|
关系型数据库 MySQL 中间件
MySQL 中如何实现分库分表?常见的分库分表策略有哪些?
在MySQL中,分库分表(Sharding)通过将数据分散到多个数据库或表中,以应对大量数据带来的性能和扩展性问题。常见策略包括:哈希分片(分布均匀,查询效率高)、范围分片(适合范围查询)、列表分片(适用于特定值查询)、复合分片(灵活性高)和动态分片(灵活应对负载变化)。每种策略各有优劣,需根据业务需求选择。常用工具如MyCAT、ShardingSphere和TDDL可简化实现过程。
|
存储 SQL 关系型数据库
一篇文章搞懂MySQL的分库分表,从拆分场景、目标评估、拆分方案、不停机迁移、一致性补偿等方面详细阐述MySQL数据库的分库分表方案
MySQL如何进行分库分表、数据迁移?从相关概念、使用场景、拆分方式、分表字段选择、数据一致性校验等角度阐述MySQL数据库的分库分表方案。
2082 15
一篇文章搞懂MySQL的分库分表,从拆分场景、目标评估、拆分方案、不停机迁移、一致性补偿等方面详细阐述MySQL数据库的分库分表方案
|
SQL 算法 Java
(二十六)MySQL分库篇:Sharding-Sphere分库分表框架的保姆级教学!
前面《MySQL主从原理篇》、《MySQL主从实践篇》两章中聊明白了MySQL主备读写分离、多主多写热备等方案,但如果这些高可用架构依旧无法满足业务规模,或业务增长的需要,此时就需要考虑选用分库分表架构。
6323 4

推荐镜像

更多