开发者社区> 问答> 正文

MaxCompute Spark通过DataWorks提交的参数和配置有何特点?

MaxCompute Spark通过DataWorks提交的参数和配置有何特点?

展开
收起
bnbajjyhyjfty 2021-12-12 14:57:13 954 0
1 条回答
写回答
取消 提交回答
  • 1Spark配置项:对应于spark-submit命令的--conf选项

    accessid,accesskey,projectname,endpoint,runtimeendpoint,taskmajorversion无需配置。

    除此之外,需要将spark-defaultconf中的配置逐条加到dataworks的配置项中

    2给主类传参数(如bizdate)

    。首先在调度->参数中添加参数然后在Spark节点“参数”栏引用该参数。多个参数用空格分隔。该参数会传给用户主类,用户在代码中解析该参数即可0参考文档

    2021-12-12 14:58:26
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Data+AI时代大数据平台应该如何建设 立即下载
大数据AI一体化的解读 立即下载
极氪大数据 Serverless 应用实践 立即下载