27MyCat - 分片规则

简介: 27MyCat - 分片规则

在数据切分处理中,特别是水平切分中,中间件最终要的两个处理过程就是数据的切分、数据的聚合。选择合适的切分规则,至关重要,因为它决定了后续数据聚合的难易程度,甚至可以避免跨库的数据聚合处理。

前面讲了数据切分中重要的几条原则,其中有几条是数据冗余,表分组(Table Group),这都是业务上规避跨库join的很好的方式,但不是所有的业务场景都适合这样的规则,因此本章将讲述如何选择合适的切分规则。

a. Mycat全局表

如果你的业务中有些数据类似于数据字典,比如配置文件的配置,常用业务的配置或者数据量不大很少变动的表,这些表往往不是特别大,而且大部分的业务场景都会用到,那么这种表适合于Mycat全局表,无须对数据进行切分,只要在所有的分片上保存一份数据即可,Mycat 在Join操作中,业务表与全局表进行Join聚合会优先选择相同分片内的全局表join,避免跨库Join,在进行数据插入操作时,mycat将把数据分发到全局表对应的所有分片执行,在进行数据读取时候将会随机获取一个节点读取数据。目前Mycat没有做全局表的数据一致性检查,后续版本1.4之后提供了全局表一致性检查,检查每个分片的数据一致性。

全局表的配置如下:

<table name="t_area" primaryKey="id" type="global" dataNode="dn1,dn2" />

b. ER分片表

有一类业务,例如订单(order)跟订单明细(order_detail),明细表会依赖于订单,也就是说会存在表的主从关系,这类似业务的切分可以抽象出合适的切分规则,比如根据用户ID切分,其他相关的表都依赖于用户ID,再或者根据订单ID切分,总之部分业务

总会可以抽象出父子关系的表。这类表适用于ER分片表,子表的记录与所关联的父表记录存放在同一个数据分片上,避免数据Join跨库操作。

以order与order_detail例子为例,schema.xml中定义如下的分片配置,order,order_detail 根据order_id进行数据切分,保证相同order_id的数据分到同一个分片上,在进行数据插入操作时,Mycat会获取order所在的分片,然后将order_detail也插入到order所在的分片。

<table name="order" dataNode="dn$1-32" rule="mod-long">
   <childTable name="order_detail" primaryKey="id" joinKey="order_id" parentKey="order_id" />
</table>

c. 多对多关联

有一类业务场景是 “主表A+关系表+主表B”,举例来说就是商户会员+订单+商户,对应这类业务,如何切分?

从会员的角度,如果需要查询会员购买的订单,那按照会员进行切分即可,但是如果要查询商户当天售出的订单,那又需要按照商户做切分,可是如果既要按照会员又要按照商户切分,几乎是无法实现,这类业务如何选择切分规则非常难。目前还暂时无法很好支持这种模式下的3个表之间的关联。目前总的原则是需要从业务角度来看,关系表更偏向哪个表,即“A的关系”还是“B的关系”,来决定关系表跟从那个方向存储,未来Mycat版本中将考虑将中间表进行双向复制,以实现从A-关系表以及B-关系表的双向关联查询如下图所示:

d. 主键分片vs 非主键分片

当没任何字段可以作为分片字段的时候,主键分片就是唯一选择,其优点是按照主键的查询最快,当采用自动增长的序列号作为主键时,还能比较均匀的将数据分片在不同的节点上。

若有某个合适的业务字段比较合适作为分片字段,则建议采用此业务字段分片,选择分片字段的条件如下:

  1. 尽可能的比较均匀分布数据到各个节点上;
  2. 该业务字段是最频繁的或者最重要的查询条件。

常见的除了主键之外的其他可能分片字段有“订单创建时间”、“店铺类别”或“所在省”等。当你找到某个合适的业务字段作为分片字段以后,不必纠结于“牺牲了按主键查询记录的性能”,因为在这种情况下,MyCAT提供了“主键到分片”的内存缓存机制,热点数据按照主键查询,丝毫不损失性能。

<table name="t_user" primaryKey="user_id" dataNode="dn$1-32" rule="mod-long">
  <childTable name="t_user_detail" primaryKey="id" joinKey="user_id" parentKey="user_id" />
</table>

对于非主键分片的table,填写属性primaryKey,此时MyCAT会将你根据主键查询的SQL语句的第一次执行结果进行分析,确定该Table 的某个主键在什么分片上,并进行主键到分片ID的缓存。第二次或后续查询mycat会优先从缓存中查询是否有id–>node即主键到分片的映射,如果有直接查询,通过此种方法提高了非主键分片的查询性能。

目录
相关文章
|
7月前
34MyCat - 分片规则(应用指定)
34MyCat - 分片规则(应用指定)
22 0
|
7月前
35MyCat - 分片规则(字符串hash解析)
35MyCat - 分片规则(字符串hash解析)
45 0
|
7月前
36MyCat - 分片规则(一致性hash)
36MyCat - 分片规则(一致性hash)
32 0
|
7月前
28MyCat - 分片规则(分片枚举)
28MyCat - 分片规则(分片枚举)
15 0
|
7月前
38MyCat - 分片规则(自然月分片)
38MyCat - 分片规则(自然月分片)
24 0
|
7月前
31MyCat - 分片规则(按日期分片)
31MyCat - 分片规则(按日期分片)
19 0
|
存储 算法 中间件
MyCat - 分片 - 分片规则 - 应用指定算法 | 学习笔记
快速学习 MyCat - 分片 - 分片规则 - 应用指定算法
122 0
MyCat - 分片 - 分片规则 - 应用指定算法 | 学习笔记
|
存储 算法 关系型数据库
MyCat - 分片 - 分片规则 - 范围分片 | 学习笔记
快速学习 MyCat - 分片 - 分片规则 - 范围分片
74 0
MyCat - 分片 - 分片规则 - 范围分片 | 学习笔记
|
存储 关系型数据库 MySQL
MyCat - 分片 - 分片规则 - 准备工作 | 学习笔记
快速学习 MyCat - 分片 - 分片规则 - 准备工作
79 0
MyCat - 分片 - 分片规则 - 准备工作 | 学习笔记
|
算法 关系型数据库 MySQL
MyCat - 分片 - 分片规则 - 枚举分片 | 学习笔记
快速学习 MyCat - 分片 - 分片规则 - 枚举分片
98 0
MyCat - 分片 - 分片规则 - 枚举分片 | 学习笔记