DataWorks配置MySQL Binlog输入前提条件是什么?
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
配置MySQL Binlog输入之前,请确保已完成以下规划与准备工作。准备数据源:已购买来源数据源MySQL。资源规划与准备:已购买独享数据集成资源组,并完成资源配置。详情可参见资源规划与配置。网络环境评估与规划:新增数据源之前,您需根据业务情况,打通数据源、独享数据集成资源组之间的网络,并进行交换机、白名单等网络环境下的访问配置。如果数据源和独享数据集成资源组均处于同地域的同一VPC网络中,数据源与资源组间的网络天然联通。如果数据源和独享数据集成资源组均处于不同的网络环境中,您需要通过VPN网关等方式,将数据源与资源组间的网络打通。详情请参见配置白名单。查看当前使用的数据库版本是否为MySQL5.x或8.x版本。您可以通过如下语句查看。 select version();说明DataWorks的数据集成实时同步MySQL数据是基于实时订阅MySQL Binlog实现的,实时同步MySQL数据目前仅支持配置MySQL数据源为RDS的5.x或8.x版本的MySQL,不支持配置为DRDS的MySQL。如果当前使用的数据库版本不是RDS的
5.x或
8.x版本的MySQL,请使用数据集成支持的RDS的
5.x或
8.x版本,否则会导致数据集成任务无法执行。准备账号并授权: 您需要规划一个可访问数据源的账号,用于后续数据集成过程中访问数据源并进行数据提取、写入的同步操作。 详情请参见创建账号并配置账号权限。开启MySQL Binlog:仅实时同步数据时需要开启MySQL Binlog。实时同步数据详细介绍请参见实时同步概述。 来源数据源为MySQL时,您需要开启Binlog。Binlog是记录所有数据库表结构变更(例如执行CREATE、ALTER操作)以及表数据修改(例如执行INSERT、UPDATE、DELETE等)的日志。方便您可以通过Binlog日志中的内容,查看数据库的变更历史、进行数据库增量备份和恢复以及主从数据库的复制。Binlog日志的格式如下:Statement:基于SQL语句的复制。Binlog中会保存每条修改数据的SQL语句。Row:基于行的复制。Binlog中不保存SQL语句上下文的相关信息,仅保存被修改的记录。Mixed:混合模式复制。Statement与Row的结合,一般的语句修改使用Statment格式(例如函数),Statement无法完成复制
https://help.aliyun.com/document_detail/146662.html,此回答整理自钉群“DataWorks交流群(答疑@机器人)”
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。