开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC 测试发现update 拿到的数据很多字段是null ,实际是有值,这个有解吗?

Flink CDC oracle cdc2.4.1 oracle 12c 测试发现update 拿到的数据很多字段是null ,实际是有值,这个有解吗?d557ba40c965cf4de016c55589cf4982.png

展开
收起
cuicuicuic 2023-11-06 20:25:53 73 0
1 条回答
写回答
取消 提交回答
  • 这个问题可能是由于Oracle CDC的捕获策略或者Flink Oracle CDC connector的实现导致的。在Oracle 12c中,默认的捕获策略是"capture all changes",这意味着它会将所有类型的DML(包括UPDATE)记录为INSERT和DELETE。这样,当你从CDC获取UPDATE记录时,你可能会发现许多字段是NULL,因为这些字段在原始的行中没有值。

    为了解决这个问题,你可以尝试以下几种方法:

    1. 更改Oracle的捕获策略:你可以尝试将Oracle的捕获策略更改为"capture before and after images",这样你就可以获取到原始行和新行的完整信息,而不是只有DML操作的类型和键值。

    2. 优化Flink Oracle CDC connector的实现:你可以尝试向Flink的开发者报告这个问题,看看他们是否可以优化Flink Oracle CDC connector的实现,以便更好地处理UPDATE记录的NULL值。

    3. 使用其他的数据源:如果你无法解决这个问题,你也可以考虑使用其他的数据源,例如MySQL、PostgreSQL等,这些数据库的CDC实现可能没有这个问题。

    2023-11-07 11:04:02
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    移动互联网测试到质量的转变 立即下载
    给ITer的技术实战进阶课-阿里CIO学院独家教材(四) 立即下载
    F2etest — 多浏览器兼容性测试整体解决方案 立即下载