maxcompute配置问题之需要配置如何解决

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: MaxCompute配置是指在使用阿里云MaxCompute服务时对项目设置、计算资源、存储空间等进行的各项调整;本合集将提供MaxCompute配置的指南和建议,帮助用户根据数据处理需求优化其MaxCompute环境。

问题一:MaxCompute项目需要配置什么才能删除列吗?


问题一:FAILED: Catalog Service Failed, ErrorCode: 152, Error Message: ODPS-0110061: Failed to run ddltask-Schema evolution DDLs is not enabled in project:trust_dw MaxCompute项目需要配置什么才能删除列吗?

问题二:这个项目永久生效对吧?


参考回答:

针对问题一的回答:需要加一个配置项:setproject odps.schema.evolution.enable=true; https://help.aliyun.com/document_detail/73771.html?spm=a2c4g.252793.0.i1#section-dyz-e63-55q


针对问题二的回答:是的,


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/517671?spm=a2c6h.14164896.0.0.58f74853HgjAFJ


问题二:普通java代码连Maxcompute 有文档吗,需要的依赖和配置啥的?


普通java代码连Maxcompute 有文档吗?,需要的依赖和配置啥的


参考回答:

"有的 Java sdk参考:https://help.aliyun.com/document_detail/34614.html?spm=a2c4g.34951.0.i4 jdbc参考:https://help.aliyun.com/document_detail/161246.html?spm=a2c4g.177015.0.0.55bc1605QbCGld


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/519170?spm=a2c6h.14164896.0.0.58f74853HgjAFJ


问题三:想使用sqltask查询1万条以上的数据,MaxCompute需要做什么配置吗?


想使用sqltask查询1万条以上的数据,MaxCompute需要做什么配置吗?


参考回答:

看下这个文档:https://help.aliyun.com/document_detail/120601.html?spm=a2c4g.468606.0.i4


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/517673?spm=a2c6h.14164896.0.0.310448532ZjO8p


问题四:阿里云写UDF访问maxcompute中的表,在本地配置是正常的,上传到maxcompute执行的时候显示网络连接错误这种情况吗?


"请教一下,有人碰到过阿里云写UDF访问maxcompute中的表,在本地配置是正常的,上传到maxcompute执行的时候显示网络连接错误这种情况吗?我是只访问了odps,并没有访问其他的资源http://logview.odps.aliyun.com/logview/?h=http://service.cn.maxcompute.aliyun-inc.com/api&p=vas_data_dev&i=20230606023132493gfpvns1vkcr4&token=OVR1bnFDNHZpUnZZdXFiMktzRCtjQi8xNjJjPSxPRFBTX09CTzpwNF8yNzQ0MTgxNTU4NjM3Nzk1OTgsMTY4ODYxMDY5Mix7IlN0YXRlbWVudCI6W3siQWN0aW9uIjpbIm9kcHM6UmVhZCJdLCJFZmZlY3QiOiJBbGxvdyIsIlJlc291cmNlIjpbImFjczpvZHBzOio6cHJvamVjdHMvdmFzX2RhdGFfZGV2L2luc3RhbmNlcy8yMDIzMDYwNjAyMzEzMjQ5M2dmcHZuczF2a2NyNCJdfV0sIlZlcnNpb24iOiIxIn0= 



是MaxCompute访问MaxCompute,同一个项目的,就是代码中连接mc获取表的一些内容,做了逻辑处理,UDF在idea读取mc的表是可以的,上传到mc中执行就不行是吗,这个既然在本地能连上,为啥上传连不上,你们的网络不应该是更好吗?"


参考回答:

"目前MaxCompute的限制是在udf里无法使用sdk,网络不通。所以现在怎么申请也没用了。你得写udf单独处理表,你试一下SQL语言自定义函数 https://help.aliyun.com/document_detail/175769.html?spm=a2c4g.34614.0.i6#section-5uf-slv-2xb


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/519153?spm=a2c6h.14164896.0.0.310448532ZjO8p


问题五:如何配置MaxCompute监控配置关联调度?


如何配置MaxCompute监控配置关联调度?


参考回答:

如果您需要在生产链路上监控离线数据质量,需要将数据质量进行关联调度:关联界面仅能找到已经提交的节点,且关联调度支持跨工作空间的关联。关联前,请确保您在关联的两个工作空间中,同时拥有管理员、开发或运维中至少一个角色。数据质量的关联调度可以关联单个或多个节点任务,关联调度完成后,离线数据质量监控任务可以自动运行。说明 数据质量的关联可以灵活配置,您关联的任务并非一定与您的表有关系。在相应表的监控规则页面,单击关联调度,配置规则与任务的绑定关系。



在关联调度对话框中,输入您需要关联的任务节点名称。



单击添加。 https://help.aliyun.com/document_detail/73690.html


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/500577?spm=a2c6h.14164896.0.0.310448532ZjO8p

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
2月前
|
分布式计算 资源调度 大数据
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(一)
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(一)
73 0
|
2月前
|
分布式计算 资源调度 大数据
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(二)
大数据-110 Flink 安装部署 下载解压配置 Standalone模式启动 打包依赖(二)
78 0
|
2月前
|
存储 分布式计算 druid
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(一)
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(一)
44 1
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(一)
|
2月前
|
运维 监控 数据可视化
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
83 1
|
2月前
|
消息中间件 分布式计算 druid
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(二)
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(二)
45 2
|
2月前
|
消息中间件 分布式计算 Java
大数据-73 Kafka 高级特性 稳定性-事务 相关配置 事务操作Java 幂等性 仅一次发送
大数据-73 Kafka 高级特性 稳定性-事务 相关配置 事务操作Java 幂等性 仅一次发送
38 2
|
2月前
|
存储 消息中间件 druid
大数据-151 Apache Druid 集群模式 配置启动【上篇】 超详细!
大数据-151 Apache Druid 集群模式 配置启动【上篇】 超详细!
92 1
|
2月前
|
SQL 消息中间件 分布式计算
大数据-141 - ClickHouse 集群 副本和分片 Zk 的配置 Replicated MergeTree原理详解(一)
大数据-141 - ClickHouse 集群 副本和分片 Zk 的配置 Replicated MergeTree原理详解(一)
77 0
|
2月前
|
SQL 大数据
大数据-141 - ClickHouse 集群 副本和分片 Zk 的配置 Replicated MergeTree原理详解(二)
大数据-141 - ClickHouse 集群 副本和分片 Zk 的配置 Replicated MergeTree原理详解(二)
86 0
|
2月前
|
消息中间件 NoSQL Kafka
大数据-116 - Flink DataStream Sink 原理、概念、常见Sink类型 配置与使用 附带案例1:消费Kafka写到Redis
大数据-116 - Flink DataStream Sink 原理、概念、常见Sink类型 配置与使用 附带案例1:消费Kafka写到Redis
195 0