开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink cdc的 参数是直接从指定时间开始读取 binlog 的还是从最早开始然后按时间过滤的?

flink cdc的scan.startup.timestamp-millis 参数是直接从指定时间开始读取 binlog 的还是从最早开始然后按时间过滤的?测试下来感觉像后者,因为很久才读出数来.有没有参数可以提高效率的,增量后并行度为 1 时,读取真的好慢.

展开
收起
小小鹿鹿鹿 2024-04-15 19:56:47 59 0
1 条回答
写回答
取消 提交回答
  • 目前是后者,其实也可以,但是需要改造,你把同一个table的数据进行keyby 写入到下游,但是会有数据倾斜的问题.如果binglog太快,可以释放增大点读取binlog条数大小.此回答来自钉群Flink CDC 社区。

    2024-04-15 22:08:06
    赞同 3 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    任庆盛|Flink CDC + Kafka 加速业务实时化 立即下载
    朱翥、贺小令|更快更稳更易用:Flink 自适应批处理能力演 立即下载
    PolarDB-X 2.0 全局 Binlog 与备份恢复能 立即下载