开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

增量快照读取算法的核心思路是什么?

已解决

增量快照读取算法的核心思路是什么?

展开
收起
游客cum3jectrqmmy 2022-01-19 16:18:29 1216 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    增量快照读取算法的核心思路就是在全量读取阶段把表分成一个个 chunk 进行并发读 取,在进入增量阶段后只需要一个 task 进行单并发读取 binlog 日志,在全量和增量自动切换时, 通过无锁算法保障一致性。这种设计在提高读取效率的同时,进一步节约了资源。实现了全增量一 体化的数据同步。这也是流批一体道路上一个非常重要的落地。

    资料来源:《Flink CDC:新一代数据集成框架》,下载链接:https://developer.aliyun.com/topic/download?id=8256。

    2022-01-19 22:13:03
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
数据+算法定义新世界 立即下载
袋鼠云基于实时计算的反黄牛算法 立即下载
Alink:基于Apache Flink的算法平台 立即下载