开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

大佬 问一下 flink 1.15.4使用pg-cdc 2.3.0 连接 Kingbase 人大?

大佬 问一下 flink 1.15.4使用pg-cdc 2.3.0 连接 Kingbase 人大金仓库(Postgresql 内核版本是12.1)启动后读取全量数据可以 但是增量数据 新增,删除 都没任何反应 没异常 checkpoint也开启了 是啥原因呢? 是不支持还是有兼容性问题呢?有人cdc 读取过 Kingbase 人大金仓库么 请教一下

展开
收起
真的很搞笑 2023-07-13 13:44:01 635 1
2 条回答
写回答
取消 提交回答
  • 那个flink-cdc同步人大金仓日志,有解决方案吗?目前也是只能获取全量的数据,增量的貌似获取不到

    2023-10-27 10:22:44
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    Flink 1.15.4 支持使用 pg-cdc 2.3.0 进行数据同步,但是需要注意的是,Kingbase 数据库与 PostgreSQL 数据库并不完全兼容,可能存在一些差异和限制。因此,如果你需要使用 pg-cdc 2.3.0 连接 Kingbase 数据库进行数据同步,需要进行一些额外的配置和调整。

    以下是一些可能需要进行的配置和调整:

    修改 JDBC 驱动:Kingbase 数据库与 PostgreSQL 数据库的 JDBC 驱动存在差异,需要替换为相应的 Kingbase JDBC 驱动。可以将 Kingbase JDBC 驱动添加到 Flink 的 lib 目录中,并在 Flink CDC 的配置文件中指定相应的 JDBC 驱动类和连接 URL。

    配置表结构信息:Kingbase 数据库的表结构与 PostgreSQL 数据库的表结构存在差异,需要在 Flink CDC 的配置文件中指定相应的表结构信息,以便 Flink CDC 正确解析和同步数据。

    调整数据类型映射:Kingbase 数据库的数据类型与 PostgreSQL 数据库的数据类型存在差异,需要进行相应的数据类型映射。可以在 Flink CDC 的配置文件中指定相应的数据类型映射关系,以便 Flink CDC 正确解析和同步数据。

    2023-07-29 22:00:32
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载