开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 正文

常见的 CDC 方案实现之Sqoop 离线同步是什么?

常见的 CDC 方案实现之Sqoop 离线同步是什么?

展开
收起
Lee_tianbai 2021-01-07 16:24:08 1359 0
1 条回答
写回答
取消 提交回答
  • sqoop 是一个开源的数据同步工具,它可以将数据库的数据同步到 HDFS/Hive 中, 支持全量同步和增量同步,用户可以配置小时/天的调度作业来定时同步数据。

    sqoop 增量同步是一种侵入式的 CDC 方案,支持 Last Modified 和 Append 模式。

    image.png

    缺点:

     直接 jdbc 请求源库拉取数据,影响源库性能

     小时/天调度,实时性不高

     无法同步源库的删除操作,Append 模式还不支持数据更新操作

    2021-01-07 16:24:42
    赞同 展开评论 打赏

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

相关电子书

更多
任庆盛|Flink CDC + Kafka 加速业务实时化 立即下载
基于 Flink CDC 打造 企业级实时数据集成方案 立即下载
《基于Apache Hudi的CDC数据入湖》 立即下载