AI 助理
备案控制台
开发者社区 问答 正文

调整Spark读取ODPS离线表分区大小的方法是什么？

调整Spark读取ODPS离线表分区大小的方法是什么？

展开
收起
不吃核桃 2024-07-29 15:50:00 50 发布于山西 分享
分享
 版权
举报

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 格格的阿里云

    可以通过设置spark.hadoop.odps.input.split.size来调整Spark读取ODPS离线表的分区大小，默认值为256M，需要根据当前分区的大小进行调整。

    2024-07-29 16:16:56 举报
    赞同 3 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类：
分布式计算 Spark MaxCompute 云原生大数据计算服务 MaxCompute
问答标签：
spark云原生大数据计算服务 MaxCompute 云原生大数据计算服务 MaxCompute方法 云原生大数据计算服务 MaxCompute分区 云原生大数据计算服务 MaxCompute spark 云原生大数据计算服务 MaxCompute离线
问答地址：
开发者社区 > 大数据 > 问答
相关问答
Dataworks 里的 ODPS spark 节点访问不到 maxcompute 里的表
58
1
0
在大数据计算MaxCompute中，python里面没有查看分区数量的方法吗？
58
2
0
在大数据计算MaxCompute中，请问离线抽取任务怎么修改为手动任务哈？
63
1
0
dataworks调用odps的spark中的pyspark代码报错找不到main函数什么情况啊？
64
1
0
小米离线集群在使用Spark时面临的主要痛点是什么？
58
1
0
在ODPS环境中，如何进行Spark的交互式开发测试？
68
1
0
在Spark与ODPS集成的上下文中，sparkInstanceId代表什么？
29
1
0
在大数据计算MaxCompute为什么离线同步任务一直在wait？
40
0
0
Dataworks 离线数据同步，从 odps 同步到 sls，是否支持sls的日志时间配置设置？
73
1
0
DataWorks中ODPS spark sql 是这个模版开发么？
63
1
0