开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

现在Flink CDC-3.0.1支持从PG(16.x)的备库复制嘛?

现在Flink CDC-3.0.1支持从PG(16.x)的备库复制嘛?

展开
收起
小小鹿鹿鹿 2024-02-26 17:36:40 84 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC 3.0.1版本支持从PostgreSQL的备库进行数据复制

    Flink CDC(Change Data Capture)是Apache Flink的一个子项目,它允许用户通过捕获日志信息来实时地同步数据库中的数据变更。随着3.0版本的发布,Flink CDC不仅作为一个数据源,还成为了一个基于Flink的端到端流式ELT(Extract, Load, Transform)数据集成框架。这意味着它提供了更全面的数据集成能力,包括从备份数据库中捕获数据变更。

    在使用Flink CDC从PostgreSQL备库复制数据时,需要确保PostgreSQL的主数据库配置了逻辑解码(logical decoding),这是因为Flink CDC使用的是基于日志的逻辑解码方式来捕获数据变更。在PostgreSQL的主数据库中,需要设置wal_level参数为logical,以启用逻辑解码功能。

    此外,Flink CDC的文档和社区资源提供了关于如何配置和管理Flink CDC数据源的详细指导,以及如何解决数据源连接和同步过程中可能遇到的问题。如果您需要具体的操作步骤和实践案例,可以参考相关的技术文章和教程,这些通常会涵盖从环境搭建到数据同步测试的全流程体验。

    综上所述,Flink CDC 3.0.1版本确实支持从PostgreSQL的备库复制数据,但需要确保主数据库的相关配置已经正确设置,并且遵循Flink CDC的配置和管理指南来实现数据同步。

    2024-02-27 13:13:58
    赞同 展开评论 打赏
  • 目前不支持。3.1快发了可以试试,我这边还没做测试,debezium那边说支持,
    https://github.com/ververica/flink-cdc-connectors/pull/3034
    。此回答来自钉群Flink CDC 社区。

    2024-02-26 18:18:50
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载