开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink cdc能全量两个es集群吗?

flink cdc能全量两个es集群吗?

展开
收起
真的很搞笑 2023-12-11 13:34:44 61 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC确实支持全量和增量流式读取。在全量数据同步的场景中,它可以从MySQL等源系统中读取所有的数据并同步到Elasticsearch集群。此外,Flink CDC的机制在增量同步、断点续传、全量同步的表现都很好,也支持全增量一体化同步。

    对于两个Elasticsearch集群的情况,您可以创建两个独立的Flink CDC任务,每个任务负责将全量数据同步到一个Elasticsearch集群。这种方案需要确保两个任务之间不会互相干扰,例如,可以通过调整并行度或者使用不同的Binlog位点来避免冲突。

    2023-12-12 16:11:38
    赞同 展开评论 打赏
  • es不可以,es本身也没changelog概念 ,此回答整理自钉群“Flink CDC 社区”

    2023-12-11 22:09:21
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载