Mycat切片规则挺多的,我就简单讲讲一些吧,这个是自定义范围分片,简单来将,就是我有两个数据库,a放多少条记录,b放多少调数据。这样就实现了分片的操作。实现步骤:1、创建数据库。2、配置schemal.xml,3、配置service.xml,4、修改rule.xml,设置默认插入的节点、5、修改auto-sharding-long.txt,设置置分片范围。
创建数据库
这个地方我主键采用的是本地时间戳的方式来自动生成id
创建两个数据库,并都创建test表
#创建数据库 create database mycat; #添加表 use mycat #创建表test create table test6(id varchar(18) primary key,name varchar(32)) ; #创建数据库 create database mycat2; #添加表 use mycat 2 #创建表test create table test6(id varchar(18) primary key,name varchar(32)) ;
配置mycat
1、配置schemal.xml
#编辑添加table vim conf/schemal.xml #添加表,设定rule="auto-sharding-long" ,自动根据范围分片 <table name="test6" dataNode="jdbc_node1,jdbc_node2" primaryKey="id" autoIncrement="true" rule="auto-sharding-long"/>
下面是完整配置
<?xml version="1.0"?> <!DOCTYPE mycat:schema SYSTEM "schema.dtd"> <mycat:schema xmlns:mycat="http://io.mycat/"> <schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="1000"> <table name="test6" dataNode="jdbc_node1,jdbc_node2" primaryKey="id" autoIncrement="true" rule="auto-sharding-long"/> </schema> <!--多个数据库--> <dataNode name="jdbc_node1" dataHost="localhost" database="mycat" /> <dataNode name="jdbc_node2" dataHost="localhost" database="mycat2" /> <!-- 快递员表,非分片表 --> <dataHost name="localhost" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100"> <heartbeat>select user()</heartbeat> <writeHost host="hostM1" url="127.0.0.1:3306" user="root" password="root" /> </dataHost> </mycat:schema>
2、配置server.xml
#编辑 vim ./conf/server.xml #确保这个id的生成策略为2 ,表示为根据时间戳 <property name="sequnceHandlerType">2</property>
下面是完整配置
<?xml version="1.0" encoding="UTF-8"?> <!-- - - Licensed under the Apache License, Version 2.0 (the "License"); - you may not use this file except in compliance with the License. - You may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0 - - Unless required by applicable law or agreed to in writing, software - distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the License for the specific language governing permissions and - limitations under the License. --> <!DOCTYPE mycat:server SYSTEM "server.dtd"> <mycat:server xmlns:mycat="http://io.mycat/"> <system> <property name="serverPort">8066</property> <property name="useSqlStat">0</property> <!-- 1为开启实时统计、0为关闭 --> <property name="useGlobleTableCheck">0</property> <!-- 1为开启全加班一致性检测、0为关闭 --> <property name="sequnceHandlerType">2</property> <!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena--> <property name="processorBufferPoolType">0</property> <!--分布式事务开关,0为不过滤分布式事务,1为过滤分布式事务(如果分布式事务内只涉及全局表,则不过滤),2为不过滤分布式事务,但是记录分布式事务日志--> <property name="handleDistributedTransactions">0</property> <!-- off heap for merge/order/group/limit 1开启 0关闭 --> <property name="useOffHeapForMerge">1</property> <!-- 单位为m --> <property name="memoryPageSize">1m</property> <!-- 单位为k --> <property name="spillsFileBufferSize">1k</property> <property name="useStreamOutput">0</property> <!-- 单位为m --> <property name="systemReserveMemorySize">384m</property> <!--是否采用zookeeper协调切换 --> <property name="useZKSwitch">true</property> </system> <user name="root"> <property name="password">root</property> <property name="schemas">yellowcong</property> </user> <user name="user"> <property name="password">user</property> <property name="schemas">yellowcong</property> <property name="readOnly">true</property> </user> </mycat:server>
3、修改rule.xml
vim ./conf/rule.xml #添加defaultNode ,设定默认节点为0 ,不设定就会报错 <function name="rang-long" class="io.mycat.route.function.AutoPartitionByLong"> <property name="mapFile">autopartition-long.txt</property> <property name="defaultNode">0</property> </function>
4、修改auto-sharding-long.txt
设定分片大小和规则
vim ./conf/autopartition-long.txt #默认是三个,我们需要删除最后一个,不然就会报错,说节点少了 #K=1000条记录,M=10000条记录,那么下面三个配置就是0~500万的记录会存在数据库节点1的表中,500万~1000万会存在节点2的表中 0-500M=0 500M-1000M=1
分片配置说明
可以看到,分片从schemal.xml一级一级的引用到组后的分片配置。
测试插入数据
重启服务器,然后进入mycat,测试数据
#进入mycat mysql -h 127.0.0.1 -P 8066 -u root -proot #使用yellowcong数据库 use yellowcong; #插入多条数据 insert into test6 (name) values ('doubi1'),('doubi2'),('doubi3'),('yellowcong');
物理节点数据查看
#进入物理节点 mysql -h 127.0.0.1 -P 3306 -u root -proot #查看节点1,也就是默认节点 select * from mycat.test6; #查看节点2 select * from mycat2.test6;
查看物理节点中的数据情况,发现,只向默认节点中,插入了数据,没有向第二个节点中插入数据。
错误集合
please make sure table datanode size = function partition size
出现这个问题的原因,可能是由于rule.xml配置文件问题,
<span style="color:#000000"><code> Caused by: io.mycat.config.util.ConfigException: Illegal table conf : table [ TEST2 ] rule function [ rang-long ] <span style="color:#000088 !important">partition</span> <span style="color:#000088 !important">size</span> : <span style="color:#006666 !important">3</span> > table datanode <span style="color:#000088 !important">size</span> : <span style="color:#006666 !important">2</span>, please make sure table datanode <span style="color:#000088 !important">size</span> = function <span style="color:#000088 !important">partition</span> <span style="color:#000088 !important">size</span></code></span>
查看rule.xml文件
导致错误的原因查找,删除一个节点,就不会报错了。
ERROR 1064 (HY000): bad insert sql (sharding column:ID not provided,INSERT INTO test2 (NULL, ‘doubi1’)
包这个问题的原因很明显,就是我们没有设置mycat中虚拟表的id自增,所以导致没有获取到id,所以导致了这个问题。
#修改后的语句 insert into test2(name) values('doubi1'),('doubi2'),('doubi3'),('yellowcong');
ERROR 1064 (HY000): insert must provide ColumnList
必须提供添加的列,直接插入,导致了问题,所以我们需要修该插入语句
#原来语句 insert into test2 (null,'doubi1'),(null,'doubi2'),(null,'doubi3'),(null,'yellowcong'); #修改后的语句 insert into test2(name) values('doubi1'),('doubi2'),('doubi3'),('yellowcong');
can’t find any valid datanode :TEST2 -> ID ->
如果没有指定function中defaultNode值,则插入不识别的枚举值时,报以下错误,所以需要指定
ERROR 1064 (HY000): can't find any valid datanode :TEST2 -> ID -> 953095995447709696
指定defaultNode,默认节点
Out of range value for column ‘id’ at row 1
导致这个问题的大致原因可能是由于mycat生成的id和数据库的字符长度对不上,超过了数据库配置的默认长度所导致的。解决办法,就是修改数server.xml,设定id生成策略是根据数据库生成的。
vim conf/server.xml 0 表示是表示使用本地文件方式。 1 表示的是根据数据库来生成 2 表示时间戳的方式 ID= 64 位二进制 (42(毫秒)+5(机器 ID)+5(业务编码)+12(重复累加) <property name="sequnceHandlerType">2</property>
参考文章
http://www.linuxidc.com/Linux/2016-01/127829.htm