开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

Di hdfs同步到clickhouse 可以实现增量同步吗?

Di hdfs同步到clickhouse 可以实现增量同步吗?

展开
收起
雪哥哥 2022-11-27 21:27:44 495 0
1 条回答
写回答
取消 提交回答
  • 十分耕耘,一定会有一分收获!

    楼主你好,增量同步应该通过binlog,python-mysql-replication 订阅binlog,binlog就是增量数据,主键保证唯一和非空。

    2023-01-09 08:02:11
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关电子书

更多
海量数据分布式存储——Apache HDFS之最新进展 立即下载
ClickHouse在手淘流量分析应用实践Jason Xu 立即下载
云数据库clickhouse最佳实践 立即下载