开发者社区> 问答> 正文

AppendOnlyMap大小采样是什么意思?

AppendOnlyMap大小采样是什么意思?

展开
收起
游客fbdr25iajcjto 2021-12-12 23:17:58 2282 0
1 条回答
写回答
取消 提交回答
  • 可以在AppendOnlyMap的每次更新操作之后计算它的大小,这应该没有什么问题。

    Spark为大数据平台需要提供实时计算能力,无论是数据量还是对CPU的开销都很大,每当发生update或者insert操作就计算一次大小会严重影响Spark的性能,因此Spark实际采用了采样并利用这些采样对AppendOnlyMap未来的大小进行估算或推测的方式。

    2021-12-12 23:18:42
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载