mysql使用MRG_MyISAM(MERGE)实现水平分表-阿里云开发者社区

开发者社区> 数据库> 正文

mysql使用MRG_MyISAM(MERGE)实现水平分表

简介:

在MySql中数据的优化尤其是大数据量的优化是一门很大的学问,当然其它数据库也是如此,即使你不是DBA,做为一名程序员掌握一些基本的优化信息,也可以让你在自己的程序开发中受益匪浅。当然数据库的优化有很多的方方面面,本篇主要讲,Mysql的水平分表技术,也可以说是其技术的其中之一。

在使用水平分表时,首先问下自己几个问题。

第一、为什么要水平分表?

第二、什么时候需要水平分表?

第三、怎样实现水平分表?

一、为什么要水平分表?

简而言之,当单表数据量过大时,无法对其进行有效的维护,以及查询速度严重变慢时,我们就需要对其时行水平分表

二、什么时候需要水平分表?

在数据库结构的设计中,需要充分考虑后期数据的增长量和增长速度,如果后期的数据增长量过快,以及后期数据量巨大,就需要使用水平分表。

三、怎样实现水平分表?

其实水平分表的方法,很多,但个人觉得结合程序的增删改查,本篇介绍的方法MRG_MySIAM存储引擎(MERGE存储引擎)个人觉得还是比较简单方便的,虽然性能方面与其它分表技术相比可能不是第一,但就使用程序对其的操控性来说,个人觉得还是很不错的。

MERGE存储引擎基本介绍和使用规范说明【以下截自MySql手册】:

MERGE存储引擎,也被认识为MRG_MyISAM引擎,是一个相同的可以被当作一个来用的MyISAM表的集合“相同”意味着所有表同样的列和索引信息。你不能合并列被以不同顺序列于其中的表,没有恰好同样列的表,或有不同顺序索引的表。而且,任何或者所有的表可以用myisampack来压缩。表选项的差异,比如AVG_ROW_LENGTH, MAX_ROWS或PACK_KEYS都不重要。

当你创建一个MERGE表之时,MySQL在磁盘上创建两个文件。文件名以表的名字开始,并且有一个扩展名来指明文件类型。一个.frm文件存储表定义,一个.MRG文件包含被当作一个来用的表的名字。这些表作为MERGE表自身,不必要在同一个数据库中。

你可以对表的集合用SELECT, DELETE, UPDATE和INSERT。你必须对你映射到一个MERGE表的这些表有SELECT, UPDATE和DELETE 的权限。

如果你DROP MERGE表,你仅在移除MERGE规格。底层表没有受影响。

当你创建一个MERGE表之时,你必须指定一个UNION=(list-of-tables)子句,它说明你要把哪些表当作一个来用。如果你想要对MERGE表的插入发生在UNION列表中的第一个或最后一个表上,你可以选择地指定一个INSERT_METHOD选项。使用FIRST或LAST值使得插入被相应地做在第一或最后一个表上。如果你没有指定INSERT_METHOD选项,或你用一个NO值指定该选项。往MERGE表插入记录的试图导致错误。

大致了解了MERGE存储引擎的基本介绍后,就让我们真正开始动手吧。

在分表的我们必须考虑如下问题:

1、根据什么样的规则来实现分表,即通过什么样的规则来插入不同的数据表?

2、即使分表成功,那么程序对其的处理是否简洁?

下面以下实例来说明,

假设我们有个邮件服务器,需要存储很多很多用户的邮件,为了解决后期数据量具大问题,我们就需要使用水平分表技术。

以什么样的规则来实现分表,分表数据如何确定?

首先我们必须大概估算以后的数据量会多大,分多少张表比较合适,从而来确定分表规则。

以我的情况为例,

我觉得以邮件的发送时间来计算,按天来划分,分为31张表比较合适。

那么我的分表规则,则如下设计,:

$ruleNum = date(j,$saveTime);
CREATE TABLE `email` (
  `id` int(10) unsigned NOT NULL AUTO_INCREMENT,
  `euid` mediumint(8) unsigned NOT NULL DEFAULT '0' COMMENT '帐号ID',
  `uid` char(50) NOT NULL COMMENT '邮件UID',
  `reciever` char(255) NOT NULL COMMENT '收件人',
  `sender` char(255) NOT NULL COMMENT '发送人',
  `sendTime` int(10) unsigned NOT NULL DEFAULT '0',
  `sendTitle` char(100) NOT NULL COMMENT '主题 ',
  `type` char(50) NOT NULL COMMENT '类型',
  PRIMARY KEY (`id`),
) ENGINE=MRG_MyISAM
 DEFAULT CHARSET=utf8 
UNION=(`email_1`,`email_2`,`email_3`,`email_4`,`email_5`,`email_6`,`email_7`,`email_8`,`email_9`,`email_10`,`email_11`,`email_12`,`email_13`,`email_14`,`email_15`,`email_16`,`email_17`,`email_18`,`email_19`,`email_20`,`email_21`,`email_22`,`email_23`,`email_24`,`email_25`,`email_26`,`email_27`,`email_28`,`email_29`,`email_30`,`email_31`);

首先创建一张MERGE存储类型的主表,

然后再批量创建31张MyISAM存储类型的数据表。

OK,此时创建完成后,我们需要做的是什么?

当然,第一步肯定是写入数据。此时我们的分表规则就有了用武之地了。

$sql = "INSERT INTO email_{$ruleNum}(....) VALUES(.....);"

此时完全可以正确的写入,并且在Email表中也会存在,是不是很OK。

但别高兴太早,我们要做的远远不止这些。

首先,因为ID是Auto_Increment,你完全可以不用管,因为每次插入不同的数据表都会有不同的ID,但问题是当你在EMAil这个Merge类型表中查看时你会发现,会有很多重复的ID,因为每张表的ID在email表中展现可能会有大量重复。这对我们修改和删除会有极大的影响,如果没有惟的ID,默认修改是根据排序来分别的,当然不可以。

所以在数据写入时,我们必须还要手动增加ID,来保证整个数据的ID都是惟一的。

方法当然有很多种,简单介绍下我的做法,

我直接新建了一张表就一个字段:


在每次新增完成数据后,都会使用触发器自动将此表中的数据值+1,而在每次读取时,先读取此表,获取下一个ID,这样就能保证数据ID永远惟一。

PS:也可以将此ID值存入文件,前提是在不会丢失的情况下。或其它都OK。

写入问题解决后,就剩下UPDATE,DELETE,SELECT了,这些现在都已不是问题,我们直接操作Email这个Merge类型表即可,(Mysql手册也有详细的介绍,可自行查看)

INSERT:

SELECT * FROM eamil where ($where) limit 20,10;

UPDATE:

UPDATE email SET username='$username' WHERE id=10

DELETE:

DELETE FROM email WHERE id=11

这只是一种MySql的水平分表方法,如果数据表较少的话,也可以使用

union 联合查询来实现数据表分表联合查询。

其它方法,网上也有很多,可自行查看。

希望此篇博文对大家有用,最后,分享经验,享受开源。

转载请注明:CRCMS » mysql使用MRG_MyISAM(MERGE)实现水平分表

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
数据库
使用钉钉扫一扫加入圈子
+ 订阅

分享数据库前沿,解构实战干货,推动数据库技术变革

其他文章