开发者社区 问答 正文

Spark中RDD的特点是什么?

Spark中RDD的特点是什么?

展开
收起
芯在这 2021-12-05 20:07:38 406 分享 版权
1 条回答
写回答
取消 提交回答
  • 作用于RDD上的Operation分为转换(transformantion)和动作(action)。 Spark中的所有“转换”都是惰性的,在执行“转换”操作,并不会提交Job,只有在执行“动作”操作,所有operation才会被提交到cluster中真正的被执行。这样可以大大提升系统的性能。

    转换:从现有的数据集创建一个新的数据集即数据集中的内容会发生更改,由数据集A转换成为数据集B 动作:在数据集上运行计算后,返回一个值给驱动程序。 即数据集中的内容会被归约为一个具体的数值(Scala标量、集合类型的数据或存储)。

    2021-12-05 22:22:37
    赞同 展开评论