开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Netflix 的DBLog 论文中 Chunk 读取算法是什么?

已解决

Netflix 的DBLog 论文中 Chunk 读取算法是什么?

展开
收起
游客cum3jectrqmmy 2022-01-19 15:30:39 4474 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    Netflix 的 DBLog 论文中 Chunk 读取算法是通过在数据库中维护一张信号表,再通过信号表在 binlog 文件中打点,记录每个 chunk 读取前的 Low Position (低位点) 和读取结束之后 High Position (高位点) ,在低位点和高位点之间去查询该 Chunk 的全量数据。在读取出这一部分 Chunk 的数据之后,再将这 2 个位点之间的 binlog 增量数据合并到 chunk 所属的全量数据,从 而得到高位点时刻,该 chunk 对应的全量数据。

    资料来源:《Flink CDC:新一代数据集成框架》,下载链接:https://developer.aliyun.com/topic/download?id=8256。

    2022-01-20 12:21:55
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
数据+算法定义新世界 立即下载
袋鼠云基于实时计算的反黄牛算法 立即下载
Alink:基于Apache Flink的算法平台 立即下载