开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

dataworks支持mysql整库实时同步到clickhouse?

dataworks支持mysql整库实时同步到clickhouse?image.png

展开
收起
真的很搞笑 2023-12-17 07:24:16 68 0
2 条回答
写回答
取消 提交回答
  • 目前不支持哈 下拉列表没有的话 一般是目前不支持 ,此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-12-17 23:24:54
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    确实,DataWorks提供了实时数据同步功能,支持将源端数据库中的部分或全部表的数据变化实时同步至目标数据库中。您可以使用单表或整库同步方式,实现目标库实时保持和源库的数据对应。然而,虽然DataWorks可以将支持的各种数据源数据离线同步至云数据库ClickHouse,目前它还不支持MySQL到ClickHouse的实时同步。

    不过,有其他方案可以实现MySQL到ClickHouse的实时同步,例如使用Canal组件完成binlog的解析和数据同步,Canal-Server进程会伪装成MySQL的slave,使用MySQL的binlog同步协议完成数据同步;Canal-Adapter进程负责从canal-server获取解析后的binlog,并且通过jdbc接口写入到ClickHouse。这种方案接受分钟级别的同步延迟,在每天规模500G,记录数目亿级别的场景下表现良好。

    2023-12-17 15:23:13
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关产品

  • 大数据开发治理平台 DataWorks
  • 相关电子书

    更多
    搭建电商项目架构连接MySQL 立即下载
    搭建4层电商项目架构,实战连接MySQL 立即下载
    PolarDB MySQL引擎重磅功能及产品能力盛大发布 立即下载

    相关镜像