备案控制台

开发者社区> 问答> 正文

客户在使用Jindo SDK通过SparkSQL或Pyspark写入表时，遇到'OSS存储路径...

已解决

客户在使用Jindo SDK通过SparkSQL或Pyspark写入表时，遇到'OSS存储路径不存在'错误，并且该问题在多个任务同时运行时经常发生，尽管每个任务读取的是不同日期的数据并写入不同的分区

展开

收起

提个问题! 2024-10-13 14:17:07 11 0

1 条回答

写回答

取消提交回答

社区答人

开发者社区问答官方账号

官方回答

采纳回答

问题原因是由于多个任务并发操作相同目录或数据导致，从而触发了‘no such upload’错误。最终解决方案是调整Spark作业参数，fs.jdo.committer.allow.concurrent=true和fs.jdo.committer.magic.abort.pending.uploads=false这两个新增到hadoop-common的core-site.xml配置文件里后目前观察正常使用

2024-10-13 14:17:08

赞同 1 展开评论打赏

问答分类：

开发工具存储对象存储对象存储

问答标签：

客户对象存储音视频终端 SDK oss jindo sdk对象存储 pyspark对象存储 sdk对象存储

问答地址：

开发者社区 > 云计算 > 问答

关联地址：

问产品> 开源大数据平台 E-MapReduce

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

开源大数据平台 E-MapReduce

客户询问为何已设置了OSS Bucket 'smarterp2'中没有将低频存储数据恢复至标准...

6

1

0

客户在尝试向OSS bucket写入数据时发现，似乎不需要权限也能完成操作，询问关于对象存储O...

8

1

0

客户在使用Amazon S3 SDK访问阿里云OSS时遇到一个问题，在同一区域的不同bucke...

7

1

0

客户询问如何在OSS bucket中找到或搜索目录以及相关权限设置问题

6

1

0

客户在使用OSS伴随式工具时，在上传图片过程中遇到了权限不足的错误，具体表现为请求ID为66D...

4

1

0

客户询问是否可以通过172网段的私网IP地址访问OSS，因为他的终端已打通172网段，并且有一...

5

1

0

客户发现疑似非预期使用的RAM用户AK调用了OSS Browser，导致产生告警，希望了解相关...

6

1

0

客户在杭州地区无法通过用户接口对bucket 'tsd-oss-zb'进行访问，而北京地区的访...

2

1

0

客户反馈OSS（对象存储）存在较高的丢包率问题

7

1

0

客户在使用云监控时遇到了云存储OSS服务器中某些请求的响应码（错误请求占比）突然变高的问题，并...

9

1

0

归属于问产品:

开源大数据平台 E-MapReduce

客户在使用阿里云DataWorks上的Spark节点访问其公司的SQL Server数据库时，... 已解决

问答排行榜

最热

最新

1 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家德哥 1818828

2 据说在家办公的程序员是这样写代码的？ 1792913

3 阿里云开放端口权限 690173

4 如何升级配置 536234

5 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522739

6 【精品问答】python技术1000问(1) 514099

7 Flink Forward Asia 2021 有奖问答 512881

8 OceanBase 使用动画（持续更新） 359352

9 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329783

10 OSS存储服务-客户端工具 321507

11 为体验实验室取一个新名字。 307438

12 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 304031

13 Win Server 2003-2016 加密勒索事件必打补丁合集 295303

14 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 284108

15 安全组详解，新手必看教程 277327

16 写code还是做管理，开发者如何进行职业规划？ 268994

17 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255869

18 阿里云手机和阿云浏览器连接问题专帖 235677

19 请问阿里云邮箱如何开启SMTP服务啊！ 225805

20 一个备案号，如何备案多个域名？ 223636

1 运动旅游开启新潮流，哪些科技手段能助力你的行程呢？ 477

2 “AI+儿童陪伴”，是噱头还是趋势？ 622

3 客户在按照安全升级指导将Spring Framework版本升级至5.3.39版本后，仍然被云... 219

4 客户询问云监控、应用分组以及事件订阅的具体配置方法和区别 274

5 客户询问Spring Framework 特定条件下目录遍历漏洞（CVE-2024-38816... 107

6 slb带宽限制是多少 760

7 P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧 784

8 【云端读书会第1期】读《10分钟打造专属AI助手》，你有哪些心得？ 1636

9 请问2024年云栖大会的分享ppt资料怎么下载？或者有大佬分享一下吗？ 248

10 产品库存表中如何锁定出库数量？ 354

11 我在云栖做动手，一起参与吗？ 1839

12 99元云服务器，你最pick哪种新玩法？ 4288

13 打开游戏报错 A D3D11-compatible GPU (Feature Level 11.0， 429

14 请问钉钉知识库里，如何批量下载文件夹里面的文件 725

15 open webui的RAG功能根本用不起来 455

16 宜搭如何实现存网址的控件，可以点击网址打开超级链接？ 172

17 关于在钉钉群撤回文件夹，管理员日志无法查询到文件夹下载记录的问题。 153

18 镜像很久没有更新了 210

19 全天候24小时无所不知AI助手是如何炼成的？ 2094

20 阿里云百炼的data = json.loads(json_string)是什么意思呀？ 973

相关课程

更多

对象存储OSS的云上可观测能力最佳实践

75

1

去学习

基于FC+NAS部署SD服务，并从OSS模型库下载模型文件

130

1

去学习

推荐问答

乘风问答官招募中！机械键盘免费拿

相关电子书

更多

OSS运维进阶实战手册 立即下载

《OSS运维基础实战手册》 立即下载

OSS运维基础实战手册 立即下载

相关实验场景

更多