Flink CDC这种情况怎么解决,有人遇到过吗?

Flink CDC这种情况怎么解决,有人遇到过吗?表大概10亿数据,cdc 同步数据大表,到后面越来越慢IALIZING.
2024-07-02 09:28:12,913 WARN org.apache.flink.connector.base.source.reader.fetcher.SplitFetcherManager [] - Failed to close the source reader in 30000 ms. There are still 1 split fetchers running
2024-07-02 09:28:24,062 INFO com.ververica.cdc.connectors.mysql.debezium.task.MySqlSnapshotSplitReadTask [] - Exported 705890 records for split 'room.msg_info_non_chat:113361' after 00:02:50.83
2024-07-02 09:28:36,062 INFO com.ververica.cdc.connectors.mysql.debezium.task.MySqlSnapshotSplitReadTask [] - Exported 707700 records for split 'room.msg_info_non_chat:113361' after 00:03:02.83
2024-07-02 09:28:47,763 INFO com.ververica.cdc.connectors.mysql.debezium.task.MySqlSnapshotSplitReadTask [] - Exported 708174 records for split 'room.msg_info_non_chat:113361' after 00:03:14.531
用的是 flink-sql-connector-mysql-cdc-3.0.1.jar 版本,拉取的越来越慢,表是有主键的,主键是bigint类型

展开
收起
真的很搞笑 2024-07-10 12:59:49 59 分享 版权
1 条回答
写回答
取消 提交回答
  • 全量数据如果太多,多加并行度和资源搞 ,此回答整理自钉群“Flink CDC 社区”

    2024-07-10 16:20:23
    赞同 6 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理