大佬 问一下 flink 1.15.4使用pg-cdc 2.3.0 连接 Kingbase 人大?

大佬 问一下 flink 1.15.4使用pg-cdc 2.3.0 连接 Kingbase 人大金仓库(Postgresql 内核版本是12.1)启动后读取全量数据可以 但是增量数据 新增,删除 都没任何反应 没异常 checkpoint也开启了 是啥原因呢? 是不支持还是有兼容性问题呢?有人cdc 读取过 Kingbase 人大金仓库么 请教一下

展开
收起
真的很搞笑 2023-07-13 13:44:01 816 分享 版权
3 条回答
写回答
取消 提交回答
  • 介绍一个叫TIS的开源数据集成工具,基于Web-UI的,通过与人大金仓Kingbase与Flink-cdc深度整合,提供高效、灵活的实时开源数据集成方案。它支持增量数据监听和实时写入,兼容MySQL、PostgreSQL和Oracle模式,无需编写复杂脚本,操作简单直观,特别适合非专业开发人员使用。

    TIS对Flink-CDC、Debezium中与Postgresql相关模块进行扩展,扩展了以下两个工程:

    1. flink-connector-kingbase-cdchttps://github.com/qlangtech/flink-cdc/tree/tis-3.1.0/flink-cdc-connect/flink-cdc-source-connectors/flink-connector-kingbase-cdc
    2. debezium-connector-kingbasehttps://github.com/qlangtech/debezium/tree/tis.v1.9.8.Final/debezium-connector-kingbase

    改造涉及的点如下:

    1. 修改PostgresConnection:将Jdbc Connection实例创建由TIS DataSourceFactory来代理完成。
    2. 修改ReplicationMessageColumnValueResolver类:添加对MySQL dbMode下对部分mysql colType,如:tinyint,bigInt等类型的兼容
    3. 扩展KingBase主从复制,GRPC报文传输协议:pg_logicaldec.proto,KingBase扩展了 postgreSQL的主从复制协议,添加了几个字段,所以需要作相应修改

    详细请查看,https://developer.aliyun.com/article/1656488

    2025-03-11 12:14:25
    赞同 展开评论
  • 那个flink-cdc同步人大金仓日志,有解决方案吗?目前也是只能获取全量的数据,增量的貌似获取不到

    2023-10-27 10:22:44
    赞同 展开评论
  • 北京阿里云ACE会长

    Flink 1.15.4 支持使用 pg-cdc 2.3.0 进行数据同步,但是需要注意的是,Kingbase 数据库与 PostgreSQL 数据库并不完全兼容,可能存在一些差异和限制。因此,如果你需要使用 pg-cdc 2.3.0 连接 Kingbase 数据库进行数据同步,需要进行一些额外的配置和调整。

    以下是一些可能需要进行的配置和调整:

    修改 JDBC 驱动:Kingbase 数据库与 PostgreSQL 数据库的 JDBC 驱动存在差异,需要替换为相应的 Kingbase JDBC 驱动。可以将 Kingbase JDBC 驱动添加到 Flink 的 lib 目录中,并在 Flink CDC 的配置文件中指定相应的 JDBC 驱动类和连接 URL。

    配置表结构信息:Kingbase 数据库的表结构与 PostgreSQL 数据库的表结构存在差异,需要在 Flink CDC 的配置文件中指定相应的表结构信息,以便 Flink CDC 正确解析和同步数据。

    调整数据类型映射:Kingbase 数据库的数据类型与 PostgreSQL 数据库的数据类型存在差异,需要进行相应的数据类型映射。可以在 Flink CDC 的配置文件中指定相应的数据类型映射关系,以便 Flink CDC 正确解析和同步数据。

    2023-07-29 22:00:32
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理