AI 助理
备案控制台
开发者社区 大数据与机器学习 大数据开发治理DataWorks 正文

dataworks用pyodps读dataworks的表，希望用to pandas拉到本地做训练，速

dataworks用pyodps读dataworks的表，希望用to pandas拉到本地做训练，速度很慢，400M的表能拉1小时，有什么好的解决方法么？

展开
收起
真的很搞笑 2023-05-07 18:30:32 165 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 离原

    尽量不要直接使用to_pandas，要不你直接用channel或者sdk将数据下载下来，然后作为本地数据训练

    2023-05-10 09:58:22
    赞同 展开评论
问答分类：
DataWorks Python 大数据开发治理平台 DataWorks
问答标签：
大数据开发治理平台 DataWorks pyodps pyodps Pandas 大数据开发治理平台 DataWorks表 大数据开发治理平台 DataWorks训练 Pandas dataworks
问答地址：
开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 问答
相关问答
DataWorks
DataWorks中PyODPS 要去哪里下载本地的安装包啊？
97
1
0
dataworks上开发pyodps任务，只有独享资源组才能使用第三方包吗？
75
1
0
DataWorks中pyodps支持使用类似Matplotlib的画图包吗，节点里能使用画图功能么？
66
1
0
DataWorks中pyodps这个工具可以写机器学习模型嘛？如何突破50m的限制？
76
1
0
在Dataworks中有个pyodps任务每天在正常跑数据，现在想克隆一份文件代码按小时跑？
56
1
0
DataWorks中pyodps 平替 WITH RECURSIVE怎么办？
47
0
0
DataWorks使用pyodps 改写 WTIH RECURSIVE怎么办？
57
1
0
dataworks中pyodps代码发送结果到群webhook，发布到生产环境报错了，这个怎么解决？
47
1
0
用dataworks中PY 节点训练模型，得到的模型保存在我可以调用的位置？
30
1
0
机器学习PAI dataworks 上训练 cpu利用率一直很低，这个是啥问题呢？
60
1
0
大数据与机器学习

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

我要提问

相关文章

  • Docker——阿里云服务器使用Docker部署python项目全程小记
  • Anus：公开整活！完全用 Manus 复刻 Manus 功能的开源 AI 智能体项目
  • Dataphin功能Tips系列（28）-跨节点参数
  • Dataphin功能Tips系列（35）-通过Python脚本连接数据库
  • 【Azure Service Bus】分享使用 Python Service Bus SDK 输出SDK内操作日志

    • 热门讨论

    热门文章

  • DataWorks我该如何访问A项目安装了项目的package资源？
  • Dataphin和 Dataworks 有啥区别呢？
  • DataWorks failed: ODPS-0130071:[0,0] Semantic ana？
  • 数据来源：com.alibaba.fastjson.JSONException: syntax er
  • 你好，DataWorks中怎么看是怎么收费的？
  • odps表可以设置冷存储吗？
  • dataworks里面的stg层、ods层、dwd层、dws层、是怎么分层的呢？
  • DataWorks生产节点今天总报：FAILED: 重跑就又可以？
  • DataWorks中ak 的 都加了管理员角色， 但仍然报 错？
  • 兄弟们啊，同步中DI、RI到底什么意思，是什么的缩写？
    • 展开全部
  • DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
  • DataWorks售前咨询
  • 2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
  • DataWorks：新一代 Data+AI 数据开发与数据治理平台演进
  • 大数据AI一体化开发再加速：DataWorks 支持GPU类型资源
  • DataWorks数据集成离线增量同步配置讲解
  • DataWorks重磅推出Serverless资源组，实现低成本灵活付费和动态平滑扩缩容
  • DataWorks X DeepSeek : 用AI实现数据开发治理！
  • 语雀+通义千问+DataWorks，让AI定期推送每周总结
  • 限时优惠体验！DataWorks数据治理中心全新升级为数据资产治理
    • 展开全部
    还有其他疑问?
    咨询AI助理