AI 助理
备案控制台
开发者社区 数据库 文章 正文

MySQL 高可用：mysql+mycat实现数据库分片（分库分表）

2017-11-27 2301
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
RDS MySQL Serverless 基础系列，0.5-2RCU 50GB
推荐场景：
学生管理系统数据库设计 搭建个人博客
云数据库 RDS MySQL，高可用系列 2核4GB
云数据库 RDS PostgreSQL，高可用系列 2核4GB
简介：

什么是MYCAT：

一个彻底开源的，面向企业应用开发的大数据库集群

支持事务、ACID、可以替代MySQL的加强版数据库

一个可以视为MySQL集群的企业级数据库，用来替代昂贵的Oracle集群

一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server

结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品

一个新颖的数据库中间件产品


 Mycat关键特性 ：

支持SQL92标准

遵守Mysql原生协议，跨语言，跨平台，跨数据库的通用中间件代理。

基于心跳的自动故障切换，支持读写分离，支持MySQL主从，以及galera cluster集群。

支持Galera for MySQL集群，Percona Cluster或者MariaDB cluster

基于Nio实现，有效管理线程，高并发问题。

支持数据的多片自动路由与聚合，支持sum,count,max等常用的聚合函数,支持跨库分页。

支持单库内部任意join，支持跨库2表join，甚至基于caltlet的多表join。

支持通过全局表，ER关系的分片策略，实现了高效的多表join查询。

支持多租户方案。

支持分布式事务（弱xa）。

支持全局序列号，解决分布式下的主键生成问题。

分片规则丰富，插件化开发，易于扩展。

强大的web，命令行监控。

支持前端作为mysq通用代理，后端JDBC方式支持Oracle、DB2、SQL Server 、 MongoDB 、巨杉。

支持密码加密

支持服务降级

支持IP白名单

支持SQL黑名单、sql注入攻击拦截

支持分表（1.6）

集群基于ZooKeeper管理，在线升级，扩容，智能优化，大数据处理（2.0开发版）。


（官方说明参考：Mycat 数据库分库分表中间件 ）


JDK 下载（建议要求jdk7及以上）：

http://www.oracle.com/technetwork/java/javase/downloads/java-archive-downloads-javase7-521261.html

Linux x86 147.68 MB jdk-7u80-linux-i586.tar.gz


MyCAT 相关：

Mycat 捐赠地址：http://www.mycat.io/donate.html

Mycat 官斱网站：http://www.mycat.io/

Mycat 源码：https://github.com/MyCATApache/Mycat-Server

Mycat 下载地址：https://github.com/MyCATApache/Mycat-download



既然 mycat  那么强大，那就测试看看：


#测试环境：

# 有3张表 users,item,item_detail (item 的子表) 和 3 个数据库 db01,db02,db03

# 表 users 存储在数据库 db01, 表 item 和 item_detail 分布存储在数据 db01 和 db02 

# 现在在3个数据库都创建相同的表

[sql] view plain copy 在CODE上查看代码片派生到我的代码片

  1. create database db01;  

  2. create database db02;  

  3. create database db03;  

  4.   

  5. CREATE TABLE users (  

  6.     id INT NOT NULL AUTO_INCREMENT,  

  7.     name varchar(50) NOT NULL default '',  

  8.     indate DATETIME NOT NULL default '0000-00-00 00:00:00',  

  9.     PRIMARY KEY (id)  

  10. )AUTO_INCREMENT= 1 ENGINE=InnoDB DEFAULT CHARSET=utf8;  

  11.   

  12. CREATE TABLE item (  

  13.     id INT NOT NULL AUTO_INCREMENT,  

  14.     value INT NOT NULL default 0,  

  15.     indate DATETIME NOT NULL default '0000-00-00 00:00:00',  

  16.     PRIMARY KEY (id)  

  17. )AUTO_INCREMENT= 1 ENGINE=InnoDB DEFAULT CHARSET=utf8;  

  18.   

  19. CREATE TABLE item_detail (  

  20.     id INT NOT NULL AUTO_INCREMENT,  

  21.     value INT NOT NULL default 0,  

  22.     name varchar(50) NOT NULL default '',  

  23.     item_id INT NOT NULL,  

  24.     PRIMARY KEY (id),  

  25.     key (item_id)  

  26. )AUTO_INCREMENT= 1 ENGINE=InnoDB DEFAULT CHARSET=utf8;  



# JDK 安装配置

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. cd /usr/local/src  

  2. tar xvf jdk-7u80-linux-i586.tar.gz  

  3. mkdir -p /usr/local/java  

  4. mv /usr/local/src/jdk1.7.0_80 /usr/local/java/  

  5. chown -R root:root /usr/local/java  

  6. cd /usr/local/java/  


#配置环境变量

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. vi /etc/profile   

  2. vi ~/.bash_profile  

  3.   

  4. export JAVA_HOME=/usr/local/java/jdk1.7.0_80  

  5. export PATH=$PATH:$JAVA_HOME/bin  

  6. export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar  


#设置生效（最好重启系统）

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. source /etc/profile  

  2. source ~/.bash_profile  


#测试是否安装成功

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. [root@server1 ~]# java -version  

  2. java version "1.7.0_80"  

  3. Java(TM) SE Runtime Environment (build 1.7.0_80-b15)  

  4. Java HotSpot(TM) Client VM (build 24.80-b11, mixed mode)  



# Mycat 安装配置

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. cd /usr/local/src  

  2. tar xvf Mycat-server-1.5.1-RELEASE-20160405120037-linux.tar.gz   

  3. mv /usr/local/src/mycat /usr/local/  

  4.   

  5. groupadd mycat  

  6. useradd -g mycat mycat  

  7. passwd mycat  

  8. chown -R mycat.mycat /usr/local/mycat  


#添加环境变量

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. vi /etc/profile  

  2. vi ~/.bash_profile  

  3.   

  4. export MYCAT_HOME=/usr/local/mycat  


#设置生效（最好重启系统）

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. source /etc/profile  

  2. source ~/.bash_profile  


#服务器名和IP绑定

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. vi /etc/hosts  

  2. 192.168.100.50  server1  

  3. 127.0.0.1       server1  


# 设置 wrapper.java.command 的java 路径

 ( 同时可设置 -Xmx 和 -Xms ，参考： mycat 启动失败 The specified size exceeds the maximum representable size)

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. vi /usr/local/mycat/conf/wrapper.conf  

  2.   

  3. wrapper.java.command=%JAVA_HOME%/bin/java  


#配置 server.xml 和 schema.xml  (本案例配置信息在文章底部)

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. vi /usr/local/mycat/conf/server.xml  

  2. vi /usr/local/mycat/conf/schema.xml  


#启动mycat服务 ./mycat { console | start | stop | restart | status | dump }

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. /usr/local/mycat/bin/mycat console  


[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. #mycat 进程  

  2. ps -ef | grep mycat  

  3.   

  4. #日子信息  

  5. tail -20 /usr/local/mycat/logs/wrapper.log  



测试：

#访问 mycat   (凭据参考 /usr/local/mycat/conf/server.xml)

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. mysql -utest -ptest -h127.0.0.1 -P8066 -DTESTDB  


[sql] view plain copy 在CODE上查看代码片派生到我的代码片

  1. mysql> show databases;  

  2. +----------+  

  3. | DATABASE |  

  4. +----------+  

  5. | TESTDB   |   

  6. +----------+  

  7.   

  8. mysql> show tables;  

  9. +------------------+  

  10. | Tables in TESTDB |  

  11. +------------------+  

  12. | item             |   

  13. | item_detail      |   

  14. | users            |   

  15. +------------------+  


#在 mycat 中插入数据并查询：

[sql] view plain copy 在CODE上查看代码片派生到我的代码片

  1. insert into users(name,indate) values('kk',now());  

  2. insert into item(id,value,indate) values(1,100,now());  

  3. insert into item_detail(value,name,item_id) values('pad',40,1);  

  4. insert into item_detail(value,name,item_id) values('phone',50,1);  

  5.   

  6. insert into item(id,value,indate) values(999,100,now());  

  7. insert into item_detail(value,name,item_id) values('pad',40,999);  

  8. insert into item_detail(value,name,item_id) values('phone',50,999);  

[sql] view plain copy 在CODE上查看代码片派生到我的代码片

  1. mysql> select * from users;  

  2. +----+------+---------------------+  

  3. | id | name | indate              |  

  4. +----+------+---------------------+  

  5. |  1 | kk   | 2016-04-13 06:28:00 |   

  6. +----+------+---------------------+  

  7.   

  8. mysql> select * from item;  

  9. +-----+-------+---------------------+  

  10. | id  | value | indate              |  

  11. +-----+-------+---------------------+  

  12. | 999 |   100 | 2016-04-13 06:34:12 |   

  13. |   1 |   100 | 2016-04-13 06:32:58 |   

  14. +-----+-------+---------------------+  

  15.   

  16. mysql> select * from item_detail;  

  17. +----+-------+------+---------+  

  18. | id | value | name | item_id |  

  19. +----+-------+------+---------+  

  20. |  1 |     0 | 40   |     999 |   

  21. |  2 |     0 | 50   |     999 |   

  22. |  1 |     0 | 40   |       1 |   

  23. |  2 |     0 | 50   |       1 |   

  24. +----+-------+------+---------+  



#打开另一个终端，使用mysql账号登陆访问查看表情况

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. mysql -uroot -ptest -p  


#具体的表数据存储情况：

[sql] view plain copy 在CODE上查看代码片派生到我的代码片

  1. -----------------------------------------  

  2. mysql> select * from db01.users;  

  3. +----+------+---------------------+  

  4. | id | name | indate              |  

  5. +----+------+---------------------+  

  6. |  1 | kk   | 2016-04-13 06:28:00 |   

  7. +----+------+---------------------+  

  8.   

  9. mysql> select * from db02.users;  

  10.   

  11. mysql> select * from db03.users;  

  12.   

  13. -----------------------------------------  

  14.   

  15. mysql> select * from db01.item;  

  16.   

  17. mysql> select * from db02.item;  

  18. +-----+-------+---------------------+  

  19. | id  | value | indate              |  

  20. +-----+-------+---------------------+  

  21. | 999 |   100 | 2016-04-13 06:34:12 |   

  22. +-----+-------+---------------------+  

  23.   

  24. mysql> select * from db03.item;  

  25. +----+-------+---------------------+  

  26. | id | value | indate              |  

  27. +----+-------+---------------------+  

  28. |  1 |   100 | 2016-04-13 06:32:58 |   

  29. +----+-------+---------------------+  

  30.   

  31. -----------------------------------------  

  32.   

  33. mysql> select * from db01.item_detail;  

  34.   

  35. mysql> select * from db02.item_detail;  

  36. +----+-------+------+---------+  

  37. | id | value | name | item_id |  

  38. +----+-------+------+---------+  

  39. |  1 |     0 | 40   |     999 |   

  40. |  2 |     0 | 50   |     999 |   

  41. +----+-------+------+---------+  

  42.   

  43. mysql> select * from db03.item_detail;  

  44. +----+-------+------+---------+  

  45. | id | value | name | item_id |  

  46. +----+-------+------+---------+  

  47. |  1 |     0 | 40   |       1 |   

  48. |  2 |     0 | 50   |       1 |   

  49. +----+-------+------+---------+  


测试完成！！~数据进行了分库分表！
------------------------------------------------------------------------------------

------------------------------------------------------------------------------------

# server.xml 和 schema.xml 配置情况

[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. # vi /usr/local/mycat/conf/server.xml  

  2.   

  3. <?xml version="1.0" encoding="UTF-8"?>  

  4. <!DOCTYPE mycat:server SYSTEM "server.dtd">  

  5. <mycat:server xmlns:mycat="http://org.opencloudb/">  

  6.         <system>  

  7.             <!--   

  8.                 <property name="processors">32</property>  

  9.                 <property name="processorExecutor">32</property>   

  10.                 <property name="bindIp">0.0.0.0</property>   

  11.                 <property name="frontWriteQueueSize">4096</property>  

  12.                 <property name="idleTimeout">300000</property>  

  13.                 <property name="mutiNodePatchSize">100</property>  

  14.             -->  

  15.                 <property name="defaultSqlParser">druidparser</property>  

  16.                 <property name="mutiNodeLimitType">1</property>  

  17.                 <property name="serverPort">8066</property>  

  18.                 <property name="managerPort">9066</property>   

  19.         </system>  

  20.         <!-- 任意设置登陆 mycat 的用户名,密码,数据库  -->  

  21.         <user name="test">  

  22.                 <property name="password">test</property>  

  23.                 <property name="schemas">TESTDB</property>  

  24.         </user>  

  25.   

  26.         <user name="user">  

  27.                 <property name="password">user</property>  

  28.                 <property name="schemas">TESTDB</property>  

  29.                 <property name="readOnly">true</property>  

  30.         </user>  

  31.         <!--   

  32.         <quarantine>   

  33.            <whitehost>  

  34.               <host host="127.0.0.1" user="mycat"/>  

  35.               <host host="127.0.0.2" user="mycat"/>  

  36.            </whitehost>  

  37.        <blacklist check="false"></blacklist>  

  38.         </quarantine>  

  39.         -->  

  40. </mycat:server>  


[plain] view plain copy 在CODE上查看代码片派生到我的代码片

  1. # vi /usr/local/mycat/conf/schema.xml  

  2.   

  3. <?xml version="1.0"?>  

  4. <!DOCTYPE mycat:schema SYSTEM "schema.dtd">  

  5. <mycat:schema xmlns:mycat="http://org.opencloudb/">  

  6.   

  7.     <!-- 设置表的存储方式.schema name="TESTDB" 与 server.xml中的 TESTDB 设置一致  -->  

  8.     <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">  

  9.         <table name="users" primaryKey="id" type="global" dataNode="node_db01" />  

  10.   

  11.         <table name="item" primaryKey="id" dataNode="node_db02,node_db03" rule="mod-long">  

  12.                 <childTable name="item_detail" primaryKey="id" joinKey="item_id" parentKey="id" />  

  13.         </table>  

  14.     </schema>  

  15.   

  16.     <!-- 设置dataNode 对应的数据库,及 mycat 连接的地址dataHost -->  

  17.     <dataNode name="node_db01" dataHost="dataHost01" database="db01" />  

  18.     <dataNode name="node_db02" dataHost="dataHost01" database="db02" />  

  19.     <dataNode name="node_db03" dataHost="dataHost01" database="db03" />  

  20.   

  21.     <!-- mycat 逻辑主机dataHost对应的物理主机.其中也设置对应的mysql登陆信息 -->  

  22.     <dataHost name="dataHost01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">  

  23.             <heartbeat>select user()</heartbeat>  

  24.             <writeHost host="server1" url="127.0.0.1:3306" user="root" password="mysql"/>  

  25.     </dataHost>  

  26. </mycat:schema>  


本文转自 liqius 51CTO博客，原文链接：http://blog.51cto.com/szgb17/1911140，如需转载请自行联系原作者
文章标签：
云数据库 RDS MySQL 版
关系型数据库
数据库
Java
MySQL
SQL
关键词：
云数据库 RDS MySQL 版高可用
云数据库 RDS MySQL 版数据库
mysql数据库
数据库mysql
云数据库 RDS MySQL 版分库分表
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发，帮助IT从业者们通过“阿里云Web应用上云解决方案”，了解一个企业级Web应用上云的常见架构，了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品：云数据库RDS MySQL 版 阿里云关系型数据库RDS（Relational Database Service）是一种稳定可靠、可弹性伸缩的在线数据库服务，提供容灾、备份、恢复、迁移等方面的全套解决方案，彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
技术小阿哥
目录
相关文章
顾翔
|
2月前
|
缓存 关系型数据库 BI
使用MYSQL Report分析数据库性能（下）
使用MYSQL Report分析数据库性能
顾翔
133 3
游客vphb4ae2je2zi
|
2月前
|
关系型数据库 MySQL 分布式数据库
阿里云PolarDB云原生数据库收费价格：MySQL和PostgreSQL详细介绍
阿里云PolarDB兼容MySQL、PostgreSQL及Oracle语法，支持集中式与分布式架构。标准版2核4G年费1116元起，企业版最高性能达4核16G，支持HTAP与多级高可用，广泛应用于金融、政务、互联网等领域，TCO成本降低50%。
游客vphb4ae2je2zi
538 6
游客vphb4ae2je2zi
|
2月前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS费用价格：MySQL、SQL Server、PostgreSQL和MariaDB引擎收费标准
阿里云RDS数据库支持MySQL、SQL Server、PostgreSQL、MariaDB，多种引擎优惠上线！MySQL倚天版88元/年，SQL Server 2核4G仅299元/年，PostgreSQL 227元/年起。高可用、可弹性伸缩，安全稳定。详情见官网活动页。
游客vphb4ae2je2zi
541 5
上云就上阿狸云
|
2月前
|
关系型数据库 分布式数据库 数据库
阿里云数据库收费价格：MySQL、PostgreSQL、SQL Server和MariaDB引擎费用整理
阿里云数据库提供多种类型，包括关系型与NoSQL，主流如PolarDB、RDS MySQL/PostgreSQL、Redis等。价格低至21元/月起，支持按需付费与优惠套餐，适用于各类应用场景。
上云就上阿狸云
707 4
1243767626601764
|
2月前
|
SQL 关系型数据库 MySQL
Mysql数据恢复—Mysql数据库delete删除后数据恢复案例
本地服务器，操作系统为windows server。服务器上部署mysql单实例，innodb引擎，独立表空间。未进行数据库备份，未开启binlog。 人为误操作使用Delete命令删除数据时未添加where子句，导致全表数据被删除。删除后未对该表进行任何操作。需要恢复误删除的数据。 在本案例中的mysql数据库未进行备份，也未开启binlog日志，无法直接还原数据库。
1243767626601764
296 2
顾翔
|
2月前
|
缓存 监控 关系型数据库
使用MYSQL Report分析数据库性能（中）
使用MYSQL Report分析数据库性能
顾翔
142 1
上云就上阿狸云
|
2月前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS支持MySQL、SQL Server、PostgreSQL和MariaDB引擎
阿里云数据库RDS支持MySQL、SQL Server、PostgreSQL和MariaDB引擎，提供高性价比、稳定安全的云数据库服务，适用于多种行业与业务场景。
上云就上阿狸云
238 0
翼龙云TG_yilongcloud
|
2月前
|
关系型数据库 MySQL 数据库
自建数据库如何迁移至RDS MySQL实例
数据库迁移是一项复杂且耗时的工程，需考虑数据安全、完整性及业务中断影响。使用阿里云数据传输服务DTS，可快速、平滑完成迁移任务，将应用停机时间降至分钟级。您还可通过全量备份自建数据库并恢复至RDS MySQL实例，实现间接迁移上云。
翼龙云TG_yilongcloud
113 1
游客7wkr3y7oxyt7a
|
3月前
|
存储 运维 关系型数据库
从MySQL到云数据库，数据库迁移真的有必要吗？
本文探讨了企业在业务增长背景下，是否应从 MySQL 迁移至云数据库的决策问题。分析了 MySQL 的优势与瓶颈，对比了云数据库在存储计算分离、自动化运维、多负载支持等方面的优势，并提出判断迁移必要性的五个关键问题及实施路径，帮助企业理性决策并落地迁移方案。
游客7wkr3y7oxyt7a
135 0
蓝易云
|
2月前
|
Ubuntu 安全 关系型数据库
安装与配置MySQL 8 on Ubuntu，包括权限授予、数据库备份及远程连接指南
以上步骤提供了在Ubuntu上从头开始设置、配置、授权、备份及恢复一个基础但完整的MySQL环境所需知识点。
蓝易云
404 7

热门文章

最新文章

  • 1
    除了JDBC，还有哪些常见的数据库访问技术？
  • 2
    【紧急救援】MySQL CPU 100%！一套组合拳教你快速定位并解决！
  • 3
    云栖大会｜AI时代关系型数据库创新突破：软硬协同赋能企业数智化转型
  • 4
    MySQL中日期和时间函数的使用指南
  • 5
    云栖大会｜AI时代的数据库变革升级与实践：Data+AI驱动企业智能新范式
  • 6
    阿里云RDS云数据库全解析：产品功能、收费标准与活动参考
  • 7
    AI大模型应用实践 八：如何通过RAG数据库实现大模型的私有化定制与优化
  • 8
    云栖重磅｜瑶池数据库：从云原生数据底座向“AI就绪”的多模态数据底座演进
  • 9
    通义灵码产品演示： 数据库设计与数据分析
  • 10
    云栖大会｜AI浪潮下的NoSQL演进：下一代数据库的破局之道
  • 1
    Python 操作 MySQL 数据库
    205
  • 2
    MySQL in 太慢的 3 种优化方案
    2530
  • 3
    MySQL函数
    133
  • 4
    AnalyticDB MySQL新购页面融合升级，提供企业版购买选项
    502
  • 5
    Mysql 数据库基本操作
    143
  • 6
    POLARDB：新零售用户MySQL上云最佳选择
    559
  • 7
    MySQL (索引 & 事务)
    143
  • 8
    MySQL索引
    87
  • 9
    MySQL事务
    101
  • 10
    MySQL表的进阶知识（下）
    126

    • 相关课程

    更多
  • MySQL企业常见架构与调优经验分享
  • 阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
  • MySQL实战进阶
  • 阿里云数据库产品家族及特性
  • 数据库及SQL/MySQL基础
  • 云数据库MySQL快速入门

    • 相关电子书

    更多
  • PolarDB MySQL引擎重磅功能及产品能力盛大发布
  • 阿里云MySQL云数据库产品体系介绍
  • One Box： 解读事务与分析一体化数据库 HybridDB for MySQL

    • 推荐镜像

    更多
  • mysql
    • 下一篇
    阿里云弹性公网IP线路类型【BGP(多线)_精品】是什么意思？