AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

Netflix 的DBLog 论文中 Chunk 读取算法是什么？

已解决

Netflix 的DBLog 论文中 Chunk 读取算法是什么？

展开
收起
游客cum3jectrqmmy 2022-01-19 15:30:39 4612 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客kvzazfncej2yu
    推荐回答

    Netflix 的 DBLog 论文中 Chunk 读取算法是通过在数据库中维护一张信号表，再通过信号表在 binlog 文件中打点，记录每个 chunk 读取前的 Low Position (低位点) 和读取结束之后 High Position (高位点) ，在低位点和高位点之间去查询该 Chunk 的全量数据。在读取出这一部分 Chunk 的数据之后，再将这 2 个位点之间的 binlog 增量数据合并到 chunk 所属的全量数据，从 而得到高位点时刻，该 chunk 对应的全量数据。

    资料来源：《Flink CDC：新一代数据集成框架》，下载链接：https://developer.aliyun.com/topic/download?id=8256。

    2022-01-20 12:21:55
    赞同 展开评论
问答分类：
算法 实时计算 Flink版
问答标签：
论文算法 算法论文 算法chunk netflix算法 dblog算法
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink CDC里cdc chunk算法并发读多个chunk之间的low hign点位会有重叠吗？
100
1
0
AI Earth全要素提取的算法实现也是这篇论文里的吗？我想学习一下
102
1
0
AI Earth有没有相关文档或论文介绍平台地物分类、目标提取、变化检测等算法的原理呢？
136
3
0
AI Earth有没有相关文档或论文介绍平台地物分类、目标提取、变化检测算法的原理呢？
93
1
0
# 人脸检测算法retinaface详解【论文篇】
720
0
0
采用chunk算法同步，如果我的表有一亿条现有数据，那不是的将这一亿条数据都同步到内存中，然后用bi
504
1
0
DBLog - 无锁算法论文在哪里可以了解？
1472
1
0
为什么要学习算法和数据结构？
986
1
0
数据结构和算法的算法思路有哪些？
873
1
0
数据结构中顺序表的C 语言算法一般都会研究什么呢？
909
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问
收录在圈子:
阿里云实时计算Flink
199212
+ 订阅
实时计算 Flink 版（Alibaba Cloud Realtime Compute for Apache Flink，Powered by Ververica）是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统，由 Apache Flink 创始团队官方出品，拥有全球统一商业化品牌，完全兼容开源 Flink API，提供丰富的企业级增值功能。

相关文章

  • 四旋翼飞行器及电机动力学研究（Matlab代码、Simulink仿真实现）
  • 一种多尺度协同变异的粒子群优化算法（Python代码实现）
  • 研究锂离子电池模型中的最佳性能和效率：对电池组配置、负载选择、放电倍率(C-rate)、容量和电量状态(SOC)的全面研究（Simulink仿真实现）
  • 语音克隆 Index-TTS 详细介绍
  • MySQL视图：虚拟表的创建与使用

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • flink的1cu是指1cpu还是1cpu+4g存储？
  • flink sql 可不可以实现 过滤某种操作事件
  • 2018spark技术问答集锦，希望能给喜欢spark的同学一些帮助
  • 在斗鱼，实时计算发展的历程如何？
  • flink怎么能够快速消费kafka数据，需要设置什么参数呢？
  • Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行
  • Flink-CDC 文档网站地址是什么？
  • Flink CDC中，有哪位大佬有flink 版本和cdc版本的适配统计啊？
  • Flink这个未授权访问漏洞有什么解决方案吗？
    • 展开全部
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 接着！！Apache Flink 全领域干货合集（持续更新）
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
  • 使用 Kafka 和 Flink 构建实时数据处理系统
  • Flink: 实时规则引擎助力新零售发展
  • 实时计算在天猫双十一大屏中的应用
  • 基于Flink和规则引擎的实时风控解决方案
  • Apache Flink 漫谈系列(09) - JOIN 算子
  • Apache Flink 漫谈系列(06) - 流表对偶(duality)性
  • Flink 在人工智能领域的应用实践
    • 展开全部
    还有其他疑问?
    咨询AI助理