MySQL 高可用:mysql+mycat实现数据库分片(分库分表)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS MySQL,高可用系列 2核4GB
简介: MySQL 高可用:mysql+mycat实现数据库分片(分库分表) 什么是MYCAT: 一个彻底开源的,面向企业应用开发的大数据库集群 支持事务、ACID、可以替代MySQL的加强版数据库 一个可以视为MySQL集群的企业级数据库,用来替代昂贵的Oracle集群 一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server 结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品 一个新颖的数据库中间件产品  Mycat关键特性 : 支持SQL92标准 遵守Mysql原生协议,跨语言,跨平台,跨数据库的通用中间件代理。

MySQL 高可用:mysql+mycat实现数据库分片(分库分表)

什么是MYCAT:

一个彻底开源的,面向企业应用开发的大数据库集群

支持事务、ACID、可以替代MySQL的加强版数据库

一个可以视为MySQL集群的企业级数据库,用来替代昂贵的Oracle集群

一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server

结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品

一个新颖的数据库中间件产品


 Mycat关键特性 :

支持SQL92标准

遵守Mysql原生协议,跨语言,跨平台,跨数据库的通用中间件代理。

基于心跳的自动故障切换,支持读写分离,支持MySQL主从,以及galera cluster集群。

支持Galera for MySQL集群,Percona Cluster或者MariaDB cluster

基于Nio实现,有效管理线程,高并发问题。

支持数据的多片自动路由与聚合,支持sum,count,max等常用的聚合函数,支持跨库分页。

支持单库内部任意join,支持跨库2表join,甚至基于caltlet的多表join。

支持通过全局表,ER关系的分片策略,实现了高效的多表join查询。

支持多租户方案。

支持分布式事务(弱xa)。

支持全局序列号,解决分布式下的主键生成问题。

分片规则丰富,插件化开发,易于扩展。

强大的web,命令行监控。

支持前端作为mysq通用代理,后端JDBC方式支持Oracle、DB2、SQL Server 、 mongodb 、巨杉。

支持密码加密

支持服务降级

支持IP白名单

支持SQL黑名单、sql注入攻击拦截

支持分表(1.6)

集群基于ZooKeeper管理,在线升级,扩容,智能优化,大数据处理(2.0开发版)。


官方说明参考:Mycat 数据库分库分表中间件 )


JDK 下载(建议要求jdk7及以上):

http://www.oracle.com/technetwork/java/javase/downloads/java-archive-downloads-javase7-521261.html

Linux x86 147.68 MB jdk-7u80-linux-i586.tar.gz


MyCAT 相关:

Mycat 捐赠地址:http://www.mycat.io/donate.html

Mycat 官斱网站:http://www.mycat.io/

Mycat 源码:https://github.com/MyCATApache/Mycat-Server

Mycat 下载地址:https://github.com/MyCATApache/Mycat-download



既然 mycat  那么强大,那就测试看看:


#测试环境:

# 有3张表 users,item,item_detail (item 的子表) 和 3 个数据库 db01,db02,db03

# 表 users 存储在数据库 db01, 表 item 和 item_detail 分布存储在数据 db01 和 db02 

# 现在在3个数据库都创建相同的表



   
   
  1. create database db01;
  2. create database db02;
  3. create database db03;
  4. CREATE TABLE users (
  5. id INT NOT NULL AUTO_INCREMENT,
  6. name varchar( 50) NOT NULL default '',
  7. indate DATETIME NOT NULL default '0000-00-00 00:00:00',
  8. PRIMARY KEY ( id)
  9. )AUTO_INCREMENT= 1 ENGINE= InnoDB DEFAULT CHARSET=utf8;
  10. CREATE TABLE item (
  11. id INT NOT NULL AUTO_INCREMENT,
  12. value INT NOT NULL default 0,
  13. indate DATETIME NOT NULL default '0000-00-00 00:00:00',
  14. PRIMARY KEY ( id)
  15. )AUTO_INCREMENT= 1 ENGINE= InnoDB DEFAULT CHARSET=utf8;
  16. CREATE TABLE item_detail (
  17. id INT NOT NULL AUTO_INCREMENT,
  18. value INT NOT NULL default 0,
  19. name varchar( 50) NOT NULL default '',
  20. item_id INT NOT NULL,
  21. PRIMARY KEY ( id),
  22. key (item_id)
  23. )AUTO_INCREMENT= 1 ENGINE= InnoDB DEFAULT CHARSET=utf8;


# JDK 安装配置



   
   
  1. cd /usr/ local/src
  2. tar xvf jdk- 7u8 0-linux-i586.tar.gz
  3. mkdir -p /usr/ local/java
  4. mv /usr/ local/src/jdk1. 7.0_80 /usr/ local/java/
  5. chown -R root:root /usr/ local/java
  6. cd /usr/ local/java/

#配置环境变量


   
   
  1. vi /etc/profile
  2. vi ~/.bash_profile
  3. export JAVA_HOME=/usr/ local/java/jdk1.7.0_80
  4. export PATH= $PATH: $JAVA_HOME/bin
  5. export CLASSPATH=.: $JAVA_HOME/lib/dt.jar: $JAVA_HOME/lib/tools.jar

#设置生效


   
   
  1. source /etc/profile
  2. source ~/.bash_profile

#测试是否安装成功


   
   
  1. [root@server1 ~]# java -version
  2. java version "1 .7 .0_80"
  3. Java( TM) SE Runtime Environment ( build 1 .7 .0_80-b15)
  4. Java HotSpot( TM) Client VM ( build 24 .80-b11, mixed mode)


# Mycat 安装配置



   
   
  1. cd /usr/ local/src
  2. tar xvf Mycat-server- 1.5. 1-RELEASE- 20160405120037-linux.tar.gz
  3. mv /usr/ local/src/mycat /usr/ local/
  4. groupadd mycat
  5. useradd -g mycat mycat
  6. passwd mycat
  7. chown -R mycat.mycat /usr/ local/mycat

#添加环境变量


   
   
  1. vi /etc/profile
  2. vi ~/.bash_profile
  3. export MYCAT_HOME=/usr/ local/mycat

#设置生效(最好重启系统)


   
   
  1. source /etc/profile
  2. source ~/.bash_profile

#服务器名和IP绑定
vi /etc/hosts
192.168.100.50	server1
127.0.0.1       server1

# 设置 wrapper.java.command 的java 路径

 ( 同时可设置 -Xmx 和 -Xms ,参考: mycat 启动失败 The specified size exceeds the maximum representable size)



   
   
  1. vi /usr/ local/mycat/conf/wrapper.conf
  2. wrapper.java.command=%JAVA_HOME%/bin/java

#配置 server.xml 和 schema.xml  (本案例配置信息在文章底部)


   
   
  1. vi /usr/ local/mycat/conf/server.xml
  2. vi /usr/ local/mycat/conf/schema.xml

#启动mycat服务 ./mycat  { console | start | stop | restart | status | dump }
/usr/local/mycat/bin/mycat console


   
   
  1. #mycat 进程
  2. ps -ef | grep mycat
  3. #日子信息
  4. tail - 20 /usr/ local/mycat/logs/wrapper.log


测试:

#访问 mycat   (凭据参考 /usr/local/mycat/conf/server.xml)

mysql -utest -ptest -h127.0.0.1 -P8066 -DTESTDB



   
   
  1. mysql> show databases;
  2. + ----------+
  3. | DATABASE |
  4. + ----------+
  5. | TESTDB |
  6. + ----------+
  7. mysql> show tables;
  8. + ------------------+
  9. | Tables in TESTDB |
  10. + ------------------+
  11. | item |
  12. | item_detail |
  13. | users |
  14. + ------------------+

#在 mycat 中插入数据并查询:


   
   
  1. insert into users( name,indate) values( 'kk', now());
  2. insert into item( id, value,indate) values( 1, 100, now());
  3. insert into item_detail( value, name,item_id) values( 'pad', 40, 1);
  4. insert into item_detail( value, name,item_id) values( 'phone', 50, 1);
  5. insert into item( id, value,indate) values( 999, 100, now());
  6. insert into item_detail( value, name,item_id) values( 'pad', 40, 999);
  7. insert into item_detail( value, name,item_id) values( 'phone', 50, 999);


   
   
  1. mysql> select * from users;
  2. + ----+------+---------------------+
  3. | id | name | indate |
  4. + ----+------+---------------------+
  5. | 1 | kk | 2016-04-13 06:28:00 |
  6. + ----+------+---------------------+
  7. mysql> select * from item;
  8. + -----+-------+---------------------+
  9. | id | value | indate |
  10. + -----+-------+---------------------+
  11. | 999 | 100 | 2016-04-13 06:34:12 |
  12. | 1 | 100 | 2016-04-13 06:32:58 |
  13. + -----+-------+---------------------+
  14. mysql> select * from item_detail;
  15. + ----+-------+------+---------+
  16. | id | value | name | item_id |
  17. + ----+-------+------+---------+
  18. | 1 | 0 | 40 | 999 |
  19. | 2 | 0 | 50 | 999 |
  20. | 1 | 0 | 40 | 1 |
  21. | 2 | 0 | 50 | 1 |
  22. + ----+-------+------+---------+


#打开另一个终端,使用mysql账号登陆访问查看表情况
mysql -uroot -ptest -p

#具体的表数据存储情况:


   
   
  1. -----------------------------------------
  2. mysql> select * from db01.users;
  3. + ----+------+---------------------+
  4. | id | name | indate |
  5. + ----+------+---------------------+
  6. | 1 | kk | 2016-04-13 06:28:00 |
  7. + ----+------+---------------------+
  8. mysql> select * from db02.users;
  9. mysql> select * from db03.users;
  10. -----------------------------------------
  11. mysql> select * from db01.item;
  12. mysql> select * from db02.item;
  13. + -----+-------+---------------------+
  14. | id | value | indate |
  15. + -----+-------+---------------------+
  16. | 999 | 100 | 2016-04-13 06:34:12 |
  17. + -----+-------+---------------------+
  18. mysql> select * from db03.item;
  19. + ----+-------+---------------------+
  20. | id | value | indate |
  21. + ----+-------+---------------------+
  22. | 1 | 100 | 2016-04-13 06:32:58 |
  23. + ----+-------+---------------------+
  24. -----------------------------------------
  25. mysql> select * from db01.item_detail;
  26. mysql> select * from db02.item_detail;
  27. + ----+-------+------+---------+
  28. | id | value | name | item_id |
  29. + ----+-------+------+---------+
  30. | 1 | 0 | 40 | 999 |
  31. | 2 | 0 | 50 | 999 |
  32. + ----+-------+------+---------+
  33. mysql> select * from db03.item_detail;
  34. + ----+-------+------+---------+
  35. | id | value | name | item_id |
  36. + ----+-------+------+---------+
  37. | 1 | 0 | 40 | 1 |
  38. | 2 | 0 | 50 | 1 |
  39. + ----+-------+------+---------+


测试完成!!~数据进行了分库分表!
------------------------------------------------------------------------------------

------------------------------------------------------------------------------------

# server.xml 和 schema.xml 配置情况



   
   
  1. # vi /usr/local/mycat/conf/server.xml
  2. <?xml version="1.0" encoding="UTF-8"?>
  3. <!DOCTYPE mycat:server SYSTEM "server.dtd">
  4. <mycat:server xmlns:mycat="http://org.opencloudb/">
  5. <system>
  6. <!--
  7. <property name="processors">32</property>
  8. <property name="processorExecutor">32</property>
  9. <property name="bindIp">0.0.0.0</property>
  10. <property name="frontWriteQueueSize">4096</property>
  11. <property name="idleTimeout">300000</property>
  12. <property name="mutiNodePatchSize">100</property>
  13. -->
  14. <property name="defaultSqlParser">druidparser </property>
  15. <property name="mutiNodeLimitType">1 </property>
  16. <property name="serverPort">8066 </property>
  17. <property name="managerPort">9066 </property>
  18. </system>
  19. <!-- 任意设置登陆 mycat 的用户名,密码,数据库 -->
  20. <user name="test">
  21. <property name="password">test </property>
  22. <property name="schemas">TESTDB </property>
  23. </user>
  24. <user name="user">
  25. <property name="password">user </property>
  26. <property name="schemas">TESTDB </property>
  27. <property name="readOnly">true </property>
  28. </user>
  29. <!--
  30. <quarantine>
  31. <whitehost>
  32. <host host="127.0.0.1" user="mycat"/>
  33. <host host="127.0.0.2" user="mycat"/>
  34. </whitehost>
  35. <blacklist check="false"></blacklist>
  36. </quarantine>
  37. -->
  38. </mycat:server>



   
   
  1. # vi /usr/local/mycat/conf/schema.xml
  2. <?xml version="1.0"?>
  3. <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
  4. <mycat:schema xmlns:mycat="http://org.opencloudb/">
  5. <!-- 设置表的存储方式.schema name="TESTDB" 与 server.xml中的 TESTDB 设置一致 -->
  6. <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
  7. <table name="users" primaryKey="id" type="global" dataNode="node_db01" />
  8. <table name="item" primaryKey="id" dataNode="node_db02,node_db03" rule="mod-long">
  9. <childTable name="item_detail" primaryKey="id" joinKey="item_id" parentKey="id" />
  10. </table>
  11. </schema>
  12. <!-- 设置dataNode 对应的数据库,及 mycat 连接的地址dataHost -->
  13. <dataNode name="node_db01" dataHost="dataHost01" database="db01" />
  14. <dataNode name="node_db02" dataHost="dataHost01" database="db02" />
  15. <dataNode name="node_db03" dataHost="dataHost01" database="db03" />
  16. <!-- mycat 逻辑主机dataHost对应的物理主机.其中也设置对应的mysql登陆信息 -->
  17. <dataHost name="dataHost01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">
  18. <heartbeat>select user() </heartbeat>
  19. <writeHost host="server1" url="127.0.0.1:3306" user="root" password="mysql"/>
  20. </dataHost>
  21. </mycat:schema>
原文地址https://blog.csdn.net/kk185800961/article/details/51147029
相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
29天前
|
人工智能 运维 关系型数据库
数据库运维:mysql 数据库迁移方法-mysqldump
本文介绍了MySQL数据库迁移的方法与技巧,重点探讨了数据量大小对迁移方式的影响。对于10GB以下的小型数据库,推荐使用mysqldump进行逻辑导出和source导入;10GB以上可考虑mydumper与myloader工具;100GB以上则建议物理迁移。文中还提供了统计数据库及表空间大小的SQL语句,并讲解了如何使用mysqldump导出存储过程、函数和数据结构。通过结合实际应用场景选择合适的工具与方法,可实现高效的数据迁移。
236 1
|
2月前
|
负载均衡 算法 关系型数据库
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
本文聚焦 MySQL 集群架构中的负载均衡算法,阐述其重要性。详细介绍轮询、加权轮询、最少连接、加权最少连接、随机、源地址哈希等常用算法,分析各自优缺点及适用场景。并提供 Java 语言代码实现示例,助力直观理解。文章结构清晰,语言通俗易懂,对理解和应用负载均衡算法具有实用价值和参考价值。
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
|
3天前
|
SQL 存储 关系型数据库
MySQL功能模块探秘:数据库世界的奇妙之旅
]带你轻松愉快地探索MySQL 8.4.5的核心功能模块,从SQL引擎到存储引擎,从复制机制到插件系统,让你在欢声笑语中掌握数据库的精髓!
49 26
|
24天前
|
SQL 关系型数据库 MySQL
Go语言数据库编程:使用 `database/sql` 与 MySQL/PostgreSQL
Go语言通过`database/sql`标准库提供统一数据库操作接口,支持MySQL、PostgreSQL等多种数据库。本文介绍了驱动安装、连接数据库、基本增删改查操作、预处理语句、事务处理及错误管理等内容,涵盖实际开发中常用的技巧与注意事项,适合快速掌握Go语言数据库编程基础。
110 62
|
4月前
|
关系型数据库 MySQL Java
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
|
3月前
|
存储 关系型数据库 分布式数据库
|
2月前
|
存储 关系型数据库 MySQL
大数据新视界 --面向数据分析师的大数据大厂之 MySQL 基础秘籍:轻松创建数据库与表,踏入大数据殿堂
本文详细介绍了在 MySQL 中创建数据库和表的方法。包括安装 MySQL、用命令行和图形化工具创建数据库、选择数据库、创建表(含数据类型介绍与选择建议、案例分析、最佳实践与注意事项)以及查看数据库和表的内容。文章专业、严谨且具可操作性,对数据管理有实际帮助。
大数据新视界 --面向数据分析师的大数据大厂之 MySQL 基础秘籍:轻松创建数据库与表,踏入大数据殿堂
|
2月前
|
SQL 关系型数据库 MySQL
MySQL下载安装全攻略!小白也能轻松上手,从此数据库不再难搞!
这是一份详细的MySQL安装与配置教程,适合初学者快速上手。内容涵盖从下载到安装的每一步操作,包括选择版本、设置路径、配置端口及密码等。同时提供基础操作指南,如数据库管理、数据表增删改查、用户权限设置等。还介绍了备份恢复、图形化工具使用和性能优化技巧,帮助用户全面掌握MySQL的使用方法。附带常见问题解决方法,保姆级教学让你无忧入门!
MySQL下载安装全攻略!小白也能轻松上手,从此数据库不再难搞!
|
4月前
|
关系型数据库 MySQL 数据库连接
docker拉取MySQL后数据库连接失败解决方案
通过以上方法,可以解决Docker中拉取MySQL镜像后数据库连接失败的常见问题。关键步骤包括确保容器正确启动、配置正确的环境变量、合理设置网络和权限,以及检查主机防火墙设置等。通过逐步排查,可以快速定位并解决连接问题,确保MySQL服务的正常使用。
677 82
|
2月前
|
关系型数据库 MySQL 定位技术
MySQL与Clickhouse数据库:探讨日期和时间的加法运算。
这一次的冒险就到这儿,期待你的再次加入,我们一起在数据库的世界中找寻下一个宝藏。
89 9

推荐镜像

更多