MaxCompute操作报错合集之SQL脚本设置参数set odps.mapred.reduce.tasks=18;没有生效,是为什么

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。

问题一:大数据计算MaxCompute遇到这个错误,帮忙看看?

大数据计算MaxCompute遇到这个错误

{"name":"Invariant Violation","stack":"Invariant Violation: Minified React error #31; visit https://reactjs.org/docs/error-decoder.html?invariant=31&args[]=ChunkLoadError%3A%20Loading%20chunk%2079%20failed.%0A(error%3A%20https%3A%2F%2Fg.alicdn.com%2Falishu%2Fdatastudio%2F79.2baaf2d67512c4b211d5.js)&args[]= for the full message or use the non-minified dev environment for full errors and additional helpful warnings. \n at pb (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:12:454)\n at n (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:13:221)\n at Ac (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:70:369)\n at Ff (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:74:34)\n at u (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:76:145)\n at https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:80:149\n at N (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:90:3)\n at hi (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:105:408)\n at Qg (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:144:293)\n at Rg (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:145:168)"}


参考回答:

这个错误信息表明在使用MaxCompute(也称为阿里云大数据计算服务ODPS)的某个Web界面(可能是DataStudio或类似的大数据开发工具)时,遇到了一个与React相关的运行时错误。具体来说,这个错误是React框架在尝试加载一个名为"79"的代码块时失败了。错误代码#31是React内部的一个错误码,通常与代码分割(code splitting)和动态加载组件有关。

这里的错误信息 "Loading chunk 79 failed." 表示React在尝试异步加载一个JavaScript模块时失败了。这可能是因为网络问题、服务器问题、或者模块文件本身不存在。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603361


问题二:大数据计算MaxCompute在dataworks 中 以脚本方式编写SQL,帮忙看看?

大数据计算MaxCompute在dataworks 中 以脚本方式编写SQL,在最上面定义了变量,在下面无法引用,如下:

@getdate := '2024-03-07';

select @getdate;

@7thDate := dateadd(date '@getdate', -6, 'dd');

FAILED: ODPS-0130071:[1,8] Semantic analysis exception - variable @getdate cannot be resolved


参考回答:

@getdate := '2024-03-07';

@7thDate := dateadd(date (@getdate), -6, 'dd');

select @7thDate;

这样执行


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603354


问题三:大数据计算MaxCompute这个报错是指 查询表的时候 没有指定分区 不能进行全表扫描 是吗?

大数据计算MaxCompute中FAILED: ODPS-0130071:[0,0] Semantic analysis exception - physical plan generation failed: java.lang.RuntimeException: Table(Orange_CDM,dwd_ord_cashflow_sgq_detail_da) is full scan with all partitions, please specify partition predicates. 这个报错是指 查询表的时候 没有指定分区 不能进行全表扫描 是吗 ? 但是我sql里是指定分区了 会是其他什么问题吗?


参考回答:

select* 了吧

加flag跟SQL一起执行。

set odps.sql.allow.fullscan=true;


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603345


问题四:大数据计算MaxCompute看了 ali 的技术文档,执行好像报错了,能帮忙看下吗?

大数据计算MaxCompute看了 ali 的技术文档,说可以按照以下语句创建 hudi 格式的 外部表, 但是执行好像报错了 能帮忙看下吗~ 感谢。 好像说是不支持FAILED: ODPS-0130071:[3,1] Semantic analysis exception - STORED AS INPUTFORMAT 'org.apache.hudi.hadoop.HoodieParquetInputFormat' OUTPUTFORMAT 'org.apache.hadoop.hive.ql.io.parquet.MapredParquetOutputFormat' is not supported for external table?


参考回答:


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603339


问题五:大数据计算MaxCompute中SQL脚本设置参数,为什么不生效?

大数据计算MaxCompute中SQL脚本设置参数set odps.mapred.reduce.tasks=18;为什么不生效?


参考回答:

有执行的logview嘛https://help.aliyun.com/zh/maxcompute/user-guide/flag-parameters?spm=a2c4g.11186623.0.i39#concept-2278178 


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603330

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
SQL 存储 分布式计算
ODPS技术架构深度剖析与实战指南——从零开始掌握阿里巴巴大数据处理平台的核心要义与应用技巧
【10月更文挑战第9天】ODPS是阿里巴巴推出的大数据处理平台,支持海量数据的存储与计算,适用于数据仓库、数据挖掘等场景。其核心组件涵盖数据存储、计算引擎、任务调度、资源管理和用户界面,确保数据处理的稳定、安全与高效。通过创建项目、上传数据、编写SQL或MapReduce程序,用户可轻松完成复杂的数据处理任务。示例展示了如何使用ODPS SQL查询每个用户的最早登录时间。
88 1
|
5天前
|
SQL 存储 算法
比 SQL 快出数量级的大数据计算技术
SQL 是大数据计算中最常用的工具,但在实际应用中,SQL 经常跑得很慢,浪费大量硬件资源。例如,某银行的反洗钱计算在 11 节点的 Vertica 集群上跑了 1.5 小时,而用 SPL 重写后,单机只需 26 秒。类似地,电商漏斗运算和时空碰撞任务在使用 SPL 后,性能也大幅提升。这是因为 SQL 无法写出低复杂度的算法,而 SPL 提供了更强大的数据类型和基础运算,能够实现高效计算。
|
13天前
|
分布式计算 Java MaxCompute
ODPS MR节点跑graph连通分量计算代码报错java heap space如何解决
任务启动命令:jar -resources odps-graph-connect-family-2.0-SNAPSHOT.jar -classpath ./odps-graph-connect-family-2.0-SNAPSHOT.jar ConnectFamily 若是设置参数该如何设置
|
1月前
|
SQL 消息中间件 分布式计算
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(一)
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(一)
70 0
|
1月前
|
SQL 大数据
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(二)
大数据-143 - ClickHouse 集群 SQL 超详细实践记录!(二)
54 0
|
1月前
|
SQL 大数据 API
大数据-132 - Flink SQL 基本介绍 与 HelloWorld案例
大数据-132 - Flink SQL 基本介绍 与 HelloWorld案例
43 0
|
1月前
|
存储 机器学习/深度学习 分布式计算
大数据技术——解锁数据的力量,引领未来趋势
【10月更文挑战第5天】大数据技术——解锁数据的力量,引领未来趋势
|
14天前
|
数据采集 监控 数据管理
数据治理之道:大数据平台的搭建与数据质量管理
【10月更文挑战第26天】随着信息技术的发展,数据成为企业核心资源。本文探讨大数据平台的搭建与数据质量管理,包括选择合适架构、数据处理与分析能力、数据质量标准与监控机制、数据清洗与校验及元数据管理,为企业数据治理提供参考。
50 1
|
1天前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
20 7
|
1天前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
10 2

相关产品

  • 云原生大数据计算服务 MaxCompute