MaxCompute操作报错合集之SQL脚本设置参数set odps.mapred.reduce.tasks=18;没有生效,是为什么

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。

问题一:大数据计算MaxCompute遇到这个错误,帮忙看看?

大数据计算MaxCompute遇到这个错误

{"name":"Invariant Violation","stack":"Invariant Violation: Minified React error #31; visit https://reactjs.org/docs/error-decoder.html?invariant=31&args[]=ChunkLoadError%3A%20Loading%20chunk%2079%20failed.%0A(error%3A%20https%3A%2F%2Fg.alicdn.com%2Falishu%2Fdatastudio%2F79.2baaf2d67512c4b211d5.js)&args[]= for the full message or use the non-minified dev environment for full errors and additional helpful warnings. \n at pb (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:12:454)\n at n (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:13:221)\n at Ac (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:70:369)\n at Ff (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:74:34)\n at u (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:76:145)\n at https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:80:149\n at N (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:90:3)\n at hi (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:105:408)\n at Qg (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:144:293)\n at Rg (https://g.alicdn.com/code/lib/react-dom/16.8.6/umd/react-dom.production.min.js:145:168)"}


参考回答:

这个错误信息表明在使用MaxCompute(也称为阿里云大数据计算服务ODPS)的某个Web界面(可能是DataStudio或类似的大数据开发工具)时,遇到了一个与React相关的运行时错误。具体来说,这个错误是React框架在尝试加载一个名为"79"的代码块时失败了。错误代码#31是React内部的一个错误码,通常与代码分割(code splitting)和动态加载组件有关。

这里的错误信息 "Loading chunk 79 failed." 表示React在尝试异步加载一个JavaScript模块时失败了。这可能是因为网络问题、服务器问题、或者模块文件本身不存在。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603361


问题二:大数据计算MaxCompute在dataworks 中 以脚本方式编写SQL,帮忙看看?

大数据计算MaxCompute在dataworks 中 以脚本方式编写SQL,在最上面定义了变量,在下面无法引用,如下:

@getdate := '2024-03-07';

select @getdate;

@7thDate := dateadd(date '@getdate', -6, 'dd');

FAILED: ODPS-0130071:[1,8] Semantic analysis exception - variable @getdate cannot be resolved


参考回答:

@getdate := '2024-03-07';

@7thDate := dateadd(date (@getdate), -6, 'dd');

select @7thDate;

这样执行


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603354


问题三:大数据计算MaxCompute这个报错是指 查询表的时候 没有指定分区 不能进行全表扫描 是吗?

大数据计算MaxCompute中FAILED: ODPS-0130071:[0,0] Semantic analysis exception - physical plan generation failed: java.lang.RuntimeException: Table(Orange_CDM,dwd_ord_cashflow_sgq_detail_da) is full scan with all partitions, please specify partition predicates. 这个报错是指 查询表的时候 没有指定分区 不能进行全表扫描 是吗 ? 但是我sql里是指定分区了 会是其他什么问题吗?


参考回答:

select* 了吧

加flag跟SQL一起执行。

set odps.sql.allow.fullscan=true;


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603345


问题四:大数据计算MaxCompute看了 ali 的技术文档,执行好像报错了,能帮忙看下吗?

大数据计算MaxCompute看了 ali 的技术文档,说可以按照以下语句创建 hudi 格式的 外部表, 但是执行好像报错了 能帮忙看下吗~ 感谢。 好像说是不支持FAILED: ODPS-0130071:[3,1] Semantic analysis exception - STORED AS INPUTFORMAT 'org.apache.hudi.hadoop.HoodieParquetInputFormat' OUTPUTFORMAT 'org.apache.hadoop.hive.ql.io.parquet.MapredParquetOutputFormat' is not supported for external table?


参考回答:


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603339


问题五:大数据计算MaxCompute中SQL脚本设置参数,为什么不生效?

大数据计算MaxCompute中SQL脚本设置参数set odps.mapred.reduce.tasks=18;为什么不生效?


参考回答:

有执行的logview嘛https://help.aliyun.com/zh/maxcompute/user-guide/flag-parameters?spm=a2c4g.11186623.0.i39#concept-2278178 


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/603330

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
4月前
|
SQL 存储 关系型数据库
MySQL进阶突击系列(01)一条简单SQL搞懂MySQL架构原理 | 含实用命令参数集
本文从MySQL的架构原理出发,详细介绍其SQL查询的全过程,涵盖客户端发起SQL查询、服务端SQL接口、解析器、优化器、存储引擎及日志数据等内容。同时提供了MySQL常用的管理命令参数集,帮助读者深入了解MySQL的技术细节和优化方法。
|
7月前
|
存储 SQL 关系型数据库
【MySQL调优】如何进行MySQL调优?从参数、数据建模、索引、SQL语句等方向,三万字详细解读MySQL的性能优化方案(2024版)
MySQL调优主要分为三个步骤:监控报警、排查慢SQL、MySQL调优。 排查慢SQL:开启慢查询日志 、找出最慢的几条SQL、分析查询计划 。 MySQL调优: 基础优化:缓存优化、硬件优化、参数优化、定期清理垃圾、使用合适的存储引擎、读写分离、分库分表; 表设计优化:数据类型优化、冷热数据分表等。 索引优化:考虑索引失效的11个场景、遵循索引设计原则、连接查询优化、排序优化、深分页查询优化、覆盖索引、索引下推、用普通索引等。 SQL优化。
1034 15
【MySQL调优】如何进行MySQL调优?从参数、数据建模、索引、SQL语句等方向,三万字详细解读MySQL的性能优化方案(2024版)
|
7月前
|
SQL XML Java
mybatis复习03,动态SQL,if,choose,where,set,trim标签及foreach标签的用法
文章介绍了MyBatis中动态SQL的用法,包括if、choose、where、set和trim标签,以及foreach标签的详细使用。通过实际代码示例,展示了如何根据条件动态构建查询、更新和批量插入操作的SQL语句。
mybatis复习03,动态SQL,if,choose,where,set,trim标签及foreach标签的用法
|
6月前
|
SQL Java 数据库连接
mybatis使用四:dao接口参数与mapper 接口中SQL的对应和对应方式的总结,MyBatis的parameterType传入参数类型
这篇文章是关于MyBatis中DAO接口参数与Mapper接口中SQL的对应关系,以及如何使用parameterType传入参数类型的详细总结。
151 10
|
6月前
|
消息中间件 SQL 分布式计算
大数据-62 Kafka 高级特性 主题 kafka-topics相关操作参数 KafkaAdminClient 偏移量管理
大数据-62 Kafka 高级特性 主题 kafka-topics相关操作参数 KafkaAdminClient 偏移量管理
78 6
|
6月前
|
消息中间件 存储 负载均衡
大数据-60 Kafka 高级特性 消息消费01-消费组图例 心跳机制图例 附参数详解与建议值
大数据-60 Kafka 高级特性 消息消费01-消费组图例 心跳机制图例 附参数详解与建议值
122 3
|
6月前
|
存储 缓存 NoSQL
大数据-46 Redis 持久化 RDB AOF 配置参数 混合模式 具体原理 触发方式 优点与缺点
大数据-46 Redis 持久化 RDB AOF 配置参数 混合模式 具体原理 触发方式 优点与缺点
123 1
|
8月前
|
Java 应用服务中间件 nginx
【Azure 环境】Azure应用程序网关设置set_Cookie=key=value; SameSite=Strict; HTTPOnly,AzureAD登录使用cookie时使用不了的案例记录
【Azure 环境】Azure应用程序网关设置set_Cookie=key=value; SameSite=Strict; HTTPOnly,AzureAD登录使用cookie时使用不了的案例记录
|
9月前
|
SQL Cloud Native 关系型数据库
云原生数据仓库使用问题之控制JDBC方式请求的SQL大小限制的参数是什么
阿里云AnalyticDB提供了全面的数据导入、查询分析、数据管理、运维监控等功能,并通过扩展功能支持与AI平台集成、跨地域复制与联邦查询等高级应用场景,为企业构建实时、高效、可扩展的数据仓库解决方案。以下是对AnalyticDB产品使用合集的概述,包括数据导入、查询分析、数据管理、运维监控、扩展功能等方面。
|
1月前
|
SQL 分布式计算 数据挖掘
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践
川航选择引入 SelectDB 建设湖仓一体大数据分析引擎,取得了数据导入效率提升 3-6 倍,查询分析性能提升 10-18 倍、实时性提升至 5 秒内等收益。
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 下一篇
    oss创建bucket