开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink cdc在增量读取mysql binlog有控制速率的参数吗?

flink cdc在增量读取mysql binlog有控制速率的参数吗?

展开
收起
真的很搞笑 2023-09-28 09:59:14 103 0
1 条回答
写回答
取消 提交回答
  • Flink CDC 在增量读取 MySQL binlog 时可以通过以下参数来控制速率:

    scan.parallelism: 控制每个分区并发读取 binlog 的线程数。
    fetch.size: 控制每条 binlog 中批量读取的记录数。
    max.poll.interval.ms: 控制 Flink CDC 在两次读取 binlog 之间等待的最长时间。
    当并发读取 binlog 的线程数过多时,可能会导致数据库压力增加。当每条 binlog 中批量读取的记录数过多时,可能会导致内存占用过多。当两次读取 binlog 之间等待的时间过长时,可能会导致数据延迟。

    因此,在使用 Flink CDC 增量读取 MySQL binlog 时,需要根据业务场景和数据量来调整这些参数,以达到最佳的性能。

    2023-10-17 10:15:48
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    好的 MySQL 兼容可以做到什么程度 立即下载
    让 MySQL 原生分布式触手可及 立即下载
    PolarDB-X 2.0 全局 Binlog 与备份恢复能 立即下载

    相关镜像