开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

请问下, Flink CDC读取增量的时候, 只有一个并行度有用是嘛? 多个的时候也只有一个有效?

请问下, Flink CDC读取增量的时候, 只有一个并行度有用是嘛? 多个的时候也只有一个有效?

展开
收起
真的很搞笑 2023-11-06 12:41:37 148 0
1 条回答
写回答
取消 提交回答
  • 在Flink CDC的增量读取过程中,一开始会进行全表扫描,这是为了获取起始读取位置,由于这个操作需要全局锁,因此并行度只有一个。这个阶段结束后,便开始单并行度的增量同步。

    尽管一开始的全表扫描阶段只能使用一个并行度,但在之后的增量读取过程中,是可以调整并行度的。如果遇到binlog数据积压的情况,可以考虑增加Flink CDC的并行度,即增加任务运行的并发实例数,以提高数据的读取吞吐量。

    需要注意的是,无论是全表扫描还是增量读取,Flink CDC都支持无锁读取和并行读取。此外,一些新型的连接器比如 MongoDB CDC 连接器和 Oracle CDC 连接器已经实现了增量快照算法,可以提供无锁读取、并行读取和断点续传的功能。这些功能都可以根据实际情况灵活调整和使用,以满足不同的业务需求。

    2023-11-10 11:03:21
    赞同 1 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载