开发者社区 问答 正文

driver有什么功能?

driver有什么功能?

展开
收起
芯在这 2021-12-06 23:25:29 407 分享 版权
1 条回答
写回答
取消 提交回答
  • 一个程序,它声明数据的RDD上的转换和操作,并将这些请求提交给master 功能

    1)、创建SparkContext的程序,连接到给定的SparkMaster

    2)、划分rdd stage 并生成 DAGScheduler

    3)、通过taskScheduler生成并发送task到executor

    它的位置独立于master、slave。您在master节点,也可以从另一个节点运行它。唯一的要求是它必须在一个可以从Spark Workers访问的网络中

    2021-12-06 23:25:44
    赞同 展开评论
问答地址: