开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

在Flink CDC中人大金仓可以兼容PG的wal2json和Decoderbufs插件不?

在Flink CDC中人大金仓可以兼容PG的wal2json和Decoderbufs插件不,如果不支持有没有类似的方案?

展开
收起
冲冲冲c 2024-06-26 10:29:02 452 0
7 条回答
写回答
取消 提交回答
  • Flink CDC目前不直接兼容人大金仓数据库(Kingbase)的PG wal2json和Decoderbufs插件。Flink CDC主要针对MySQL、PostgreSQL等数据库提供了原生支持。对于人大金仓数据库,阿里云提供了MaxCompute CDC服务,它可以用于实时同步Kingbase的数据到MaxCompute。如果需要将Kingbase的数据同步到其他系统,您可能需要寻找第三方工具或自定义开发解决方案。

    2024-07-25 20:52:54
    赞同 展开评论 打赏
  • 阿里云Flink CDC目前不直接支持人大金仓数据库,也不兼容PostgreSQL的wal2json和Decoderbufs插件。对于人大金仓数据库的变更数据捕获,您可以关注阿里云的数据集成(Data Integration)服务,它可能提供更广泛的数据库连接和同步支持

    2024-07-24 15:23:44
    赞同 展开评论 打赏
  • 阿里云大降价~

    CDC这个还在公测 , 没有找到支持的帖子,这个是官网的文章
    你可以自己开发
    自定义Connector开发:如果现成的解决方案不可行,考虑根据人大金仓提供的API或日志系统开发一个自定义的Flink Connector,模拟wal2json或decoderbufs的功能来提取变化数据。这通常需要深入理解人大金仓数据库的内部机制及Flink的connector开发技术

    2024-07-23 17:26:47
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    Flink CDC 主要支持 MySQL、PostgreSQL 等数据库,通过 Debezium 作为底层引擎来捕获数据变更。目前没有明确提到支持人大金仓数据库

    修改数据库配置文件,设置 wal_level=logical 和 max_replication_slots 参数,创建 Logical Replication Slot(复制槽),并使用相关插件进行逻辑解码

    2024-07-21 17:54:47
    赞同 展开评论 打赏
  • GBase8c可以支持wal2json。
    image.png

    ——参考链接

    2024-07-21 16:58:11
    赞同 1 展开评论 打赏
  • wal2json 和 Decoderbufs 是PostgreSQL社区开发的两个插件,用于提供变更数据捕获(CDC)功能。wal2json 将WAL(Write-Ahead Logging)日志转换为JSON格式的变更记录,而 Decoderbufs 用于解析这些JSON格式的变更记录。

    2024-07-20 17:25:58
    赞同 展开评论 打赏
  • 在Flink CDC中,针对Postgres数据库的连接器确实支持使用wal2jsondecoderbufs这两种Logical Decoding插件。这两种插件都是Postgres CDC连接器所提及的支持插件列表中的成员,用于解析PostgreSQL的WAL(预写式日志)变更数据,进而实现数据捕获。因此,理论上讲,如果人大金仓数据库兼容PostgreSQL的逻辑复制协议及这些插件,Flink CDC应该能够通过这些插件与其集成并进行数据捕获。
    image.png

    相关链接
    https://help.aliyun.com/zh/flink/developer-reference/postgresql-cdc-connector

    2024-07-20 16:42:26
    赞同 展开评论 打赏
滑动查看更多

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载