开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

外部表常见问题有哪些?

外部表常见问题有哪些?

展开
收起
滴滴滴~ 2023-03-29 14:10:19 179 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    外部表常见问题总结

    2023-03-29 20:59:53
    赞同 展开评论 打赏
  • "问:外部表常见问题 **答:**Q:在MaxCompute上访问OSS外部表,编写UDF本地测试通过,上传后报错内存溢出,如何处理? 问题现象:在MaxCompute上访问OSS外部表,编写UDF本地测试通过,上传后报错内存溢出。 FAILED: ODPS-0123131:User defined function exception - Traceback: java.lang.OutOfMemoryError: Java heap space
    设置如下参数后运行时间增加但依然报错内存溢出。 set odps.stage.mapper.mem = 2048 set odps.stage.mapper.jvm.mem = 4096
    问题原因:外部表的对象文件太多,内存占用过大且未设置分区。 解决方法: 使用小数据量查询。 将对象文件进行分区,以减少内存占用。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”"

    2023-03-29 20:59:32
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载