Canal 数据同步(开启binlog功能) | 学习笔记

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介: 快速学习 Canal 数据同步(开启 binlog 功能)

开发者学堂课程【微服务+全栈在线教育实战项目演练(SpringCloud Alibaba+SpringBoot):Canal 数据同步(开启 binlog 功能)】学习笔记,与课程紧密连接,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/667/detail/11516


Canal 数据同步(开启 binlog 功能)


目录:

一、Canal 环境搭建

二、cana 同步过程


一、Canal 环境搭建

canal 的原理是基于 mysql binlog 技术,所以这里-定需要开启 mysql 的 binlog 写入功能开启 mysql 服务: service mysql start ( 或者 systemctl start mysqld.service )

(1 )检查 binlog 功能是否有开启

代码如下:

mysql> shaw varlables like 'log_bin';

+---------------+-------+

| Variable _name  | Value|

+---------------+-------+

| log_bin         | OFF  |

+--------------+-------+

1 raw in set (0.00 sec)

如果显示状态为 ON 表示该功能已开启

(3)在 mysql 里面添加以下的相关用户和权限

代码如下

CREATE USER 'canal '@'%' IDENTIFIED BY 'canal';GRANT SHOW VIEW, SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal'@'%';

FLUSH PRIVILEGES;


二、canal 同步过程

准备工作

liunx 系统192. 168. 13.132

(1)安装 MySQL 数据库

创建数据库和数据表

名称和表结构一样 nembers

(2)安装 canal 数据同步工具

本地 windows 系统

(1)安装 MySQL 数据库

创建数据库和数据表名称和表结构一样

Members

//把远程库中内容同步到本地库中,所以这个过程中,在演示 canal 时候,需要做一些准备工作,首先就要做一些准备工作,做准备工作这个过程中,需要有两个地方。

//首先在这个虚拟机先装一个 Linux 系统。就是在虚拟机中把系统装上,然后另一部分是本地的 Windows 系统,都是 Windows 也可以,用虚拟机里面 Linux 系统,还有本地的 Windows 系统有这两部分。

然后除了两个之外,还需要在这个两个系统中都要装一些软件,第一个在 Linux 系统中第一部分需要安装一个 mysql 数据库。

然后在本地的 Windows 中也需要装个 mysql 数据库,两个里边都要装这个数据库。

Linux 系统 IP 是是192. 168. 13.132,然后除了这个之外,还需要做件事情,在Linux 中的 mysql 数据库中创建一个数据库,还有数据库表,然后在本地的Windows 中也需要建数据库表,但是有个前提条件,跟数据库和表,它们的名称和结构必须一样,然后这个表,比如说叫user,有 ID 和名称,那本地也是叫 user,里边有 ID 名称,第二部分,创建数据库和表,它的名称和结构需要一样。

下一个内容,现在需要在 Linux 系统中,需要安装一个 canal 的数据同步工具,把canal这个工具,需要安装到 Linux 系统中。里边需要先有这些软件,因为在本地已经装了 mysql,而 Linux 也要装上数据库。

接下来联系 Linux 中的 mysql 数据库,在里边创建数据库,show databases 这是显示所有数据库,在 Linux 系统中,有一个 guli 的这个数据库。本地也有一个 guli数据库,创建新表,让它们是相同结构的表,手动创建表。

比如说在这个 Linux 系统中,用建表语句把表快速创建出来,表名 Member,然后在表里写三个字段,第一个 ID int 类型,就这个叫primary key。

第二个字段,比如叫 username,然后写一个叫 varchar。然后它的长度100,第三个 age,int 类型然后,把这个表创建。现在所有的表,members 是创建的新表,这是在 Linux 中建一个表,为了做同步方便,然后创建完之后,再用这个本地库里边也建一个相同名称或结构表。在 window 直接创建,里边三个字段,第一个 ID,然后类型是一个int类型,它是一个主健,第二个叫做 username。

类型叫 varchar,然后长度是100。第三个叫 age,它是一个 int 类型,建完之后表名叫 members。现在在 Linux 中,还有本地,把这表都创建了,这个表的名字就叫做 members,完成创建,然后它们的结构应该都一样。

Member 表创建出来,然后创建之后,实现效果:现在不管是本地还是Linux系统中,比如查表,Select*from member。

目前,不管是本地还是Linux中表中是不是都没有数据,都为空,现在,在Linux这个 member 加一条记录,然后加完记录之后,本地表中数据会自动同步,比如说在Linux 中加一个数据,ID是用户名,age是20,然后加完之后,本地就会自动也加条记录。

当我在 Linux 中删除掉记录,本地也会删除,在系统中修改本地也会修改。这个过程就叫数据同步。在实际中经常会做这个事情,比如说要用别的公司的数据库,不能直接连,可以用这种方式,那边添加这边就能知道,然后这边也会自动添加,那边修改,这边知道,会自行修改,这个叫数据同步。

而这个过程,可以用这个叫 cindle 数据同步工具,就能把这流程最终实现,这个就是一个最基本的准备工作。

第一步修改 liunx 系统 MySQL 数据库中配置

(1)检查 binlog 功能是否有开启

show variables like 'log_bin';

mysql> shaw varlables like 'log_bin';

+---------------+-------+

| Variable _name  | Value|

+---------------+-------+

| log_bin         | OFF  |

+--------------+-------+

1 raw in set (0.00 sec)

如果执行,看到 Value 值是 0FF,表示没有开启,需要开启,如果 Value 值是 ON,表示已经开启。

(2)修改 mysql 的配置文件 my. cnf

vi/etc/my. cnf

追加内容:

log -bin-mysql-bin#binlog文件名

binlog_ format=ROW#选择row模式

server_ id=1#mysql实例id,不能和canal的slaveId重复

(3)重启 mysql 数据库

重启之后,再去查看 binlog 值,变成 0N,表示已经开启了。

相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
7月前
|
canal 分布式计算 关系型数据库
大数据Spark Streaming实时处理Canal同步binlog数据
大数据Spark Streaming实时处理Canal同步binlog数据
114 0
|
1月前
|
存储 DataWorks 调度
DataWorks数据同步功能支持全量更新和增量更新两种方式
【2月更文挑战第13天】DataWorks数据同步功能支持全量更新和增量更新两种方式
32 5
|
5月前
|
canal 负载均衡 关系型数据库
Flink CDC如何获得增量binlog,可能是跟canal一样,伪装成从节点获取日志?
Flink CDC如何获得增量binlog,可能是跟canal一样,伪装成从节点获取日志?
97 1
|
5月前
|
消息中间件 NoSQL 关系型数据库
Canal+Kafka实现MySQL与Redis数据同步(二)
Canal+Kafka实现MySQL与Redis数据同步
141 0
|
5月前
|
消息中间件 canal NoSQL
Canal+Kafka实现MySQL与Redis数据同步(一)
Canal+Kafka实现MySQL与Redis数据同步
196 0
|
5月前
|
canal NoSQL 关系型数据库
淘东电商项目(22) -Canal数据同步框架
淘东电商项目(22) -Canal数据同步框架
65 0
|
6月前
|
数据库 流计算
Flink CDC的工作原理是通过监听数据库的binlog来实现实时数据同步的
Flink CDC的工作原理是通过监听数据库的binlog来实现实时数据同步的
172 1
|
7月前
|
canal SQL 关系型数据库
大数据同步工具Canal 2
大数据同步工具Canal
195 0
|
7月前
|
canal 消息中间件 关系型数据库
大数据同步工具Canal 1
大数据同步工具Canal
368 0
|
18天前
|
存储 安全 关系型数据库
Mysql 的binlog日志的优缺点
MySQL的binlog(二进制日志)是一个记录数据库更改的日志文件,它包含了所有对数据库执行的更改操作,如INSERT、UPDATE和DELETE等。binlog的主要目的是复制和恢复。以下是binlog日志的优缺点: ### 优点: 1. **数据恢复**:当数据库出现意外故障或数据丢失时,可以利用binlog进行点恢复(point-in-time recovery),将数据恢复到某一特定时间点。 2. **主从复制**:binlog是实现MySQL主从复制功能的核心组件。主服务器将binlog中的事件发送到从服务器,从服务器再重放这些事件,从而实现数据的同步。 3. **审计**:b