大佬们,怎么让flink cdc 只关注我写的几个字段啊,其他字段变化不影响sink?我的源表我只想关注2个字段的变化,但是现在源表每个字段变化目标表都有一个upsert语句,导致sink表变化太频繁了,业务说数据不稳定
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
你可以在 Flink CDC 中使用 select() 方法来选择你想要关注的字段。例如,以下代码只会关注 name 和 age 字段的变化:
tEnv.fromChangelog(
"cdc_source",
"connector.type", "mysql",
"connector.version", "8.0.25",
"connector.topic", "t_user",
"connector.properties.group.id", "flink_cdc",
"connector.startup-mode", "latest-offset",
"select",
"name, age"
).insertInto("sink_table");
如果你不想使用 select() 方法,你可以在 Flink CDC 的 KafkaCDCSource 中设置 include 和 exclude 字段来指定哪些字段需要被转换。例如,以下代码只会转换 name 和 age 字段
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。