开发者社区> 问答> 正文

HDFS 中 edits 日志文件和 fsimage 如何同步?

HDFS 中 edits 日志文件和 fsimage 如何同步?

展开
收起
真的很搞笑 2021-12-05 23:15:19 358 0
1 条回答
写回答
取消 提交回答
    1. 合并edits 和 fsimage 有两个条件
    2. SN收到合并请求后会通知NN停止往edits文件中写数据,不然会导致数据不一致的问题 SN拿到的edits不是最新的数据

    3. 然后NN会创建一个新的edits文件 命名为edits.new ,并把后来的日志数据写入edits.new 文件中

      1. 然后SN把老的edits文件和 fsimage文件下载到SN 节点主机

      2. 下载以后会对两个文件进行checkpoint操作,合并成一个文件fsimage.checkpoint

      3. 然后把合并好的fsimage.checkpoint文件上传到NN节点主机上,并重命名为fsimage,并把edits.new 文件重命名为 edits。

    2021-12-05 23:16:00
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
大规模日志数据平台架构面临的问题与挑战 立即下载
PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载
Kubernetes下日志实时采集、存储与计算实践 立即下载