开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 正文

Delta Lake事务日志如何时间回溯?

Delta Lake事务日志如何时间回溯? 求大佬解答

展开
收起
爱吃鱼的程序员 2020-12-28 11:36:30 789 0
1 条回答
写回答
取消 提交回答
  • https://developer.aliyun.com/profile/5yerqm5bn5yqg?spm=a2c6h.12873639.0.0.6eae304abcjaIB

    每张表的状态都是由记录在事务日志中中的所有commit所决定的,事务日志相当于提供了每一步操作的历史记录,详细记录了表从初始状态到当前状态的所有操作步骤。因此,我们可以通过遍历DeltaLake深度解析<66表从初始状态到某个时间点的所有commit,来重构出表在任意时间点的状态。这个强大的功能就是时间回溯,或者叫做数据版本控制。更多关于时间回溯的说明,可以参考IntroducingDeltaTimeTravelforLargeScaleDataLakes

    2020-12-28 11:36:47
    赞同 展开评论 打赏

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

相关电子书

更多
PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载
Kubernetes下日志实时采集、存储与计算实践 立即下载
日志数据采集与分析对接 立即下载