关于公共云dataworks执行setproject命令问题小记

本文涉及的产品
大数据开发治理平台DataWorks,Serverless资源组抵扣包300CU*H
简介: 最近看到官网提供开发者版的Maxcompute的测试,赶紧开了一个试玩;https://promotion.aliyun.com/ntms/act/cloud/maxcdeveloperfbh.html?spm=5176.

最近看到官网提供开发者版的Maxcompute的测试,赶紧开了一个试玩;
https://promotion.aliyun.com/ntms/act/cloud/maxcdeveloperfbh.html?spm=5176.7944453.751670.btn16.21d652dfN2zpU3
7

但在如下测试中报错:
公共云dataworks 2.0版本测试setproject命令,保存提交的时候报提交任务和血缘关系不一致的情况;
1
这里我们不细纠这个问题,关于血缘关系以及调度依赖的内容参考如下链接:
https://help.aliyun.com/document_detail/89726.html?spm=a2c4g.11186623.6.652.67585d02t52UXJ
https://help.aliyun.com/document_detail/94780.html?spm=a2c4g.11186623.6.902.751172e7Yb5tWk
然后继续提交任务成功,并运行任务报错,任务提交失败的报错;
2
查看调度依赖如下,是使用的虚拟的root上游节点;
3
看起来没有任何的不妥的地方,可惜,任务运行一直抛错;
无奈,只能尝试添加一个select 1;语句测试是否是数据开发功能问题,还是语句的问题;
果然运行成功了,setproject的输出也打印了出来;
4
5
所以只能归结于数据开发界面对于Maxcompute的set类命令支持不友好;
所以赶紧找到了odpscmd的win版客户端装了上去验证一下是否正常;
https://help.aliyun.com/document_detail/27804.html?spm=a2c4g.11186623.2.13.59f7a95en2tecR
然后验证setproject命令正常;
6
而其中关于endpoint的地址参考官档连接:
https://help.aliyun.com/document_detail/34951.html?spm=a2c4g.11174283.6.585.1510590eW6VmBa
而logview地址参考logview输出的链接地址:
8
ak和sk是创建Maxcompute的project项目的时候创建出来的;
然后在bin目录下运行./odpscmd进入查询即可;
问题解决!!!

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
一站式大数据开发治理平台DataWorks初级课程
DataWorks 从 2009 年开始,十ー年里一直支持阿里巴巴集团内部数据中台的建设,2019 年双 11 稳定支撑每日千万级的任务调度。每天阿里巴巴内部有数万名数据和算法工程师正在使用DataWorks,承了阿里巴巴 99%的据业务构建。本课程主要介绍了阿里巴巴大数据技术发展历程与 DataWorks 几大模块的基本能力。 课程目标  通过讲师的详细讲解与实际演示,学员可以一边学习一边进行实际操作,可以深入了解DataWorks各大模块的使用方式和具体功能,让学员对DataWorks数据集成、开发、分析、运维、安全、治理等方面有深刻的了解,加深对阿里云大数据产品体系的理解与认识。 适合人群  企业数据仓库开发人员  大数据平台开发人员  数据分析师  大数据运维人员  对于大数据平台、数据中台产品感兴趣的开发者
目录
相关文章
|
7月前
|
DataWorks 安全
DataWorks私有云第三方包可以通过pip命令下载吗?
DataWorks私有云第三方包可以通过pip命令下载吗?
89 0
|
7月前
|
DataWorks 关系型数据库 大数据
dataworks问题之执行TELNET命令失败如何解决
DataWorks数据集是指在阿里云DataWorks平台内创建、管理的数据集合;本合集将介绍DataWorks数据集的创建和使用方法,以及常见的配置问题和解决方法。
|
消息中间件 弹性计算 分布式计算
DataWorks使用Shell节点调用自定义资源组执行脚本
本文主要介绍DataWorks使用Shell节点调度自定义资源组执行Shell脚本,且使用该功能需要用户的DataWorks版本为企业版。文中主要内容包括配置自定义资源组,以及设置ECS的amdin用户权限,脚本模式使用MaxCompute客户端,并配置手动业务流程执行对应的Shell脚本在开发环境运行,检测其脚本执行的命令是否正确。该功能对于用户调度用户ECS上的的程序提供了便利,使其他的任务能和DataWorks的调度结合起来。
3024 0
DataWorks使用Shell节点调用自定义资源组执行脚本
|
DataWorks 关系型数据库 调度
DataWorks百问百答39:VPC网络下adb pg实例引擎如何绑定dataworks工作空间执行任务?
VPC网络下adb pg实例引擎绑定dataworks工作空间任务执行执行指导
1450 0
DataWorks百问百答39:VPC网络下adb pg实例引擎如何绑定dataworks工作空间执行任务?
|
运维 DataWorks 调度
DataWorks百问百答08:如何进行任务调度执行、周期实例运行状况分析?
DataWorks百问百答08:如何进行任务调度执行、周期实例运行状况分析?
4708 0
|
分布式计算 安全 MaxCompute
ODPS 权限管理命令集合
ODPS 权限管理命令集合
11082 0
|
6天前
|
数据采集 人工智能 DataWorks
DataWorks产品最佳实践测评
DataWorks产品最佳实践测评
|
24天前
|
SQL DataWorks 数据可视化
DataWorks产品体验与评测
在当今数字化时代,数据处理的重要性不言而喻。DataWorks作为一款数据开发治理平台,在数据处理领域占据着重要的地位。通过对DataWorks产品的体验使用,我们可以深入了解其功能、优势以及存在的问题,并且与其他数据处理工具进行对比,从而为企业、工作或学习中的数据处理提供有价值的参考。
48 6
DataWorks产品体验与评测
|
18天前
|
SQL DataWorks 搜索推荐
DataWorks产品评测与最佳实践体验报告
DataWorks是阿里巴巴云推出的一款高效数据处理平台,通过内置的数据集成工具和ETL功能,实现了多源数据的自动化处理与分析。本文介绍了DataWorks在用户画像分析中的应用实践,展示了其如何帮助企业高效管理数据资源,支持决策制定及营销优化。同时,文章还评测了DataWorks的产品体验,包括开通流程、功能满足度等方面,并与其它数据开发平台进行了比较,突出了DataWorks在易用性、性能和生态完整性上的优势。最后,对Data Studio新版本中的Notebook环境进行了初步探索,强调了其在提升开发效率方面的价值。
56 16
|
12天前
|
SQL 分布式计算 DataWorks
DataWorks产品测评|基于DataWorks和MaxCompute产品组合实现用户画像分析
本文介绍了如何使用DataWorks和MaxCompute产品组合实现用户画像分析。首先,通过阿里云官网开通DataWorks服务并创建资源组,接着创建MaxCompute项目和数据源。随后,利用DataWorks的数据集成和数据开发模块,将业务数据同步至MaxCompute,并通过ODPS SQL完成用户画像的数据加工,最终将结果写入`ads_user_info_1d`表。文章详细记录了每一步的操作过程,包括任务开发、运行、运维操作和资源释放,帮助读者顺利完成用户画像分析。此外,还指出了文档中的一些不一致之处,并提供了相应的解决方法。

热门文章

最新文章

  • 1
    DataWorks操作报错合集之DataWorks任务异常 报错: GET_GROUP_SLOT_EXCEPTION 该怎么处理
    124
  • 2
    DataWorks操作报错合集之DataWorksUDF 报错:evaluate for user defined function xxx cannot be loaded from any resources,该怎么处理
    123
  • 3
    DataWorks操作报错合集之在DataWorks中,任务流在调度时间到达时停止运行,是什么原因导致的
    117
  • 4
    DataWorks操作报错合集之DataWorks ODPS数据同步后,timesramp遇到时区问题,解决方法是什么
    100
  • 5
    DataWorks操作报错合集之DataWorks配置参数在开发环境进行调度,参数解析不出来,收到了 "Table does not exist" 的错误,该怎么处理
    110
  • 6
    DataWorks操作报错合集之DataWorks中udf开发完后,本地和在MaxCompute的工作区可以执行函数查询,但是在datawork里报错FAILED: ODPS-0130071:[2,5],是什么原因
    120
  • 7
    DataWorks操作报错合集之DataWorks提交失败: 提交节点的源码内容到TSP(代码库)失败:"skynet_packageid is null,该怎么解决
    128
  • 8
    DataWorks操作报错合集之DataWorks在同步mysql时报错Code:[Framework-02],mysql里面有个json类型字段,是什么原因导致的
    169
  • 9
    DataWorks操作报错合集之DataWorks集成实例绑定到同一个vpc下面,也添加了RDS的IP白名单报错:数据源配置有误,请检查,该怎么处理
    93
  • 10
    DataWorks操作报错合集之在 DataWorks 中运行了一个 Hologres 表的任务并完成了执行,但是在 Hologres 表中没有看到数据,该怎么解决
    133