大佬们,怎么让flink cdc 只关注我写的几个字段啊,其他字段变化不影响sink?我的源表我只想

大佬们,怎么让flink cdc 只关注我写的几个字段啊,其他字段变化不影响sink?我的源表我只想关注2个字段的变化,但是现在源表每个字段变化目标表都有一个upsert语句,导致sink表变化太频繁了,业务说数据不稳定

展开
收起
真的很搞笑 2023-06-29 08:17:16 87 分享 版权
1 条回答
写回答
取消 提交回答
  • 你可以在 Flink CDC 中使用 select() 方法来选择你想要关注的字段。例如,以下代码只会关注 name 和 age 字段的变化:

    tEnv.fromChangelog(
    "cdc_source",
    "connector.type", "mysql",
    "connector.version", "8.0.25",
    "connector.topic", "t_user",
    "connector.properties.group.id", "flink_cdc",
    "connector.startup-mode", "latest-offset",
    "select",
    "name, age"
    ).insertInto("sink_table");
    如果你不想使用 select() 方法,你可以在 Flink CDC 的 KafkaCDCSource 中设置 include 和 exclude 字段来指定哪些字段需要被转换。例如,以下代码只会转换 name 和 age 字段

    2023-09-28 11:18:18
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理