请教一个问题. 使用PAI, df.persist(table)写数据到maxcompute表的时候
请教一个问题. 使用PAI, df.persist(table)写数据到maxcompute表的时候, 数据会加倍, 1-6倍甚至12倍, 这种情况有人遇到过吗
展开
收起
1
条回答
写回答
写回答
-
可能是由于您的程序中存在重复写入的情况，您可以尝试使用df.distinct()方法去除重复的数据，然后再次写入MaxCompute表中。
另外，您也可以尝试使用df.write.mode('overwrite')方法覆盖原有的数据。
2023-01-18 12:11:19赞同 展开评论 打赏
问答标签：
问答地址：
开发者社区
>
大数据与机器学习
>
大数据开发治理DataWorks
>
问答
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。
热门讨论
热门文章
数据来源：com.alibaba.fastjson.JSONException: syntax er
5523
Dataphin和 Dataworks 有啥区别呢？
1839
dataworks里面的stg层、ods层、dwd层、dws层、是怎么分层的呢？
2588
兄弟们啊，同步中DI、RI到底什么意思，是什么的缩写？
339
请教一下DataWorks，doris和starRocks 选型，选哪个？
1388
如果不同的RAM子账号由于权限分配原因，看不到别的工作空间下的任务名称，如果重名了怎么办？
500
请问 Argument list too long怎么解决？
1439
数据服务报429请求次数过多咋办呀
1875
DataWorks我该如何访问A项目安装了项目的package资源？
1924
DataWorks中odps SQL 参数 如何获取前一天的yyyymm？
895
展开全部
DataWorks智能数据建模全面公测开始啦！
4259
DataWorks售前咨询
8504
2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
27823
数据中台的智能进化—阿里巴巴十二年数据平台发展历程
9159
DataWorks：新一代 Data+AI 数据开发与数据治理平台演进
130
DataWorks操作报错合集之错误提示“ODPS-0130161: Parse exception - invalid token 'WITH', expect 'SEMICOLON'”，该怎么办
506
【2023云栖】田奇铣：大模型驱动DataWorks数据开发治理平台智能化升级
59263
【云栖实录】DataWorks：新一代智能湖仓一体数据开发与治理平台
312
DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
646
DataWorks操作报错合集之离线同步时，报错信息"Out of range value for column 'A' at row 1" ，表示什么意思
87
展开全部
