flinkCDC全量同步多张表数据的时候,能不能按照自定义顺序来逐个表读取?

flinkCDC全量同步多张表数据的时候,能不能按照自定义顺序来逐个表读取。现在好像是按表名顺序来读的,有没有解决方案?

展开
收起
十一0204 2023-07-19 16:49:03 246 分享 版权
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    在 Flink CDC 中进行全量同步多张表数据时,默认情况下会按照数据库中的表名顺序进行读取。如果您需要按照自定义顺序逐个表读取,则可以使用 Flink CDC 提供的可配置属性 table.whitelist 和 table.ignore 来指定读取表的顺序。

    具体来说,您可以在 Flink CDC 的配置文件中指定 table.whitelist 来设置要同步的表名列表,并按照您所需的顺序进行排列。例如:

    Copy
    debezium.source.table-whitelist=db1.table1,db1.table2,db2.table1,db2.table2
    在这个示例中,Flink CDC 将按照指定的顺序逐个读取表 db1.table1、db1.table2、db2.table1 和 db2.table2 的数据。

    需要注意的是,如果您同时指定了 table.whitelist 和 table.ignore,则 table.ignore 中的表将被排除在读取列表之外。另外,如果指定的表名不存在或无效,则 Flink CDC 将记录错误并跳过该表。

    2023-07-29 21:07:54
    赞同 展开评论
  • 意中人就是我呀!

    自己改源码。此回答整理至钉群“Flink CDC 社区”。

    2023-07-19 17:30:25
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理