开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC增量source 并行度1,导致消费不到binlog,这个有没好的优化方案?

Flink CDC增量source 并行度1,导致消费不到binlog,导致延迟。这个有没好的优化方案?

展开
收起
真的很搞笑 2023-12-19 08:07:19 65 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    对于Flink CDC增量source的并行度设置为1,导致消费不到binlog的问题,确实存在优化的空间。首先,你可以尝试增加Flink任务的并行度。当并行度增加时,Flink CDC会使用更多的连接来读取数据,从而提高数据处理的速度。然而,需要注意的是,并行度的增大会增加系统的负载和资源消耗,因此在调整并行度的同时,需要根据实际情况权衡系统资源的使用。

    其次,刚启动Flink CDC时,它会进行全表扫描,这时候可以使用多并行度。等到增量同步开始后,可以降低并行度,采用单并行度的形式,这样能更有效地消费binlog。

    2023-12-19 20:33:21
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink峰会 - 李佳林 立即下载
    Flink峰会 - 徐榜江 立即下载
    PolarDB-X 2.0 全局 Binlog 与备份恢复能 立即下载