开发者社区> 问答> 正文

Spark中数据的位置是被谁管理的?

Spark中数据的位置是被谁管理的?

展开
收起
茶什i 2019-10-28 16:07:47 3712 0
3 条回答
写回答
取消 提交回答
  • BlockManager 是整个 Spark 底层负责数据存储与管理的一个组件,Driver 和 Executor 的所有数据都由对应的 BlockManager 进行管理。 Driver 上有 BlockManagerMaster,负责对各个节点上的 BlockManager 内部管理 的数据的元数据进行维护,比如 block 的增删改等操作,都会在这里维护好元数据 的变更。每个节点都有一个 BlockManager,每个 BlockManager 创建之后,第一件事即去向 BlockManagerMaster 进行注册

    2020-03-19 19:41:48
    赞同 展开评论 打赏
  • 每个数据分片都对应具体物理位置,数据位置是由blockManager管理,无论数据是在磁盘,内存还是tacyan,都由blockManager管理。

    2019-10-30 21:38:33
    赞同 展开评论 打赏
  • 答:每个数据分片都对应具体物理位置,数据的位置是被blockManager,无论 数据是在磁盘,内存还是tacyan,都是由blockManager管理

    2019-10-28 16:30:17
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载