开发者社区> 问答> 正文

spark中的RDD的特性是什么?

spark中的RDD的特性是什么?

展开
收起
游客y244y7ln2rlpa 2021-12-07 06:48:49 608 0
1 条回答
写回答
取消 提交回答
  • RDD的特性:

    1.A list of partitions:一个分区列表, RDD中的数据都存储在一个分区列表中

    2.A function for computing each split:作用在每一-个分区中的函数

    3.A list of dependencies on other RDDs:一个RDD依赖于其他多个RDD,这个点很重要,RDD的容错机制就是依据这个特性而来的

    4.Optionally,a Partitioner for key-valueRDDs(eg:to say that the RDD is hash-partitioned):可选的,针对于kv类型的RDD才有这个特性,作用是决定了数据的来源以及数据处理后的去向

    5.可选项,数据本地性,数据位置最优

    2021-12-07 06:49:55
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载