暂无个人介绍
2023年03月
"在业务流程中创建一个虚拟节点(start)和ODPS SQL节点(insert_data),并配置依赖关系为insert_data依赖于start。注意虚拟节点属于控制类型节点,在业务流程运行过程中,不会对数据产生任何影响,仅用于实现对下游节点的运维控制。虚拟节点在被其它节点依赖的情况下,如果被运维人员手动设置为运行失败,则下游未运行的节点将因此无法被触发运行。在运维过程中,可以防止上游的错误数据进一步扩展。业务流程中,虚拟节点的上游节点通常会被设置为工作空间根节点。工作空间根节点的格式为工作空间名称_root。DataWorks会为节点自动添加一个节点名的输出,结构为工作空间名称.节点名称。如果一个工作空间下有两个同名的节点,请修改其中一个节点的节点输出。建议您在设计业务流程时,默认创建一个虚拟节点作为业务流程的根节点,来控制整个业务流程。设计业务流程的操作如下:双击业务流程名称进入开发面板,鼠标单击虚拟节点并拖拽至右侧的开发面板。 在新建节点对话框中,输入节点名称为start,单击提交。注意 节点名称必须是大小写字母、中文、数字、下划线(_)以及小数点(.),且不能超过128个字符。以同样的操作新建ODPS_SQL节点,命名为insert_data。通过拖拽连线,设置start节点为insert_data节点的上游节点。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”"
如果是业务流程的业务开始节点,您可以选择在业务流程内添加一个虚拟节点作为业务流程的开始节点。虚拟节点的上游可以设置为工作空间根节点。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
"【1.运维中心周期任务没有找到该任务】
节点尚未发布到生产环境,请检查下是否发布失败。 【2.有周期任务,但是周期实例一个都没有】
**【排查方式】**请在右上角工作空间配置检查工作空间是否开启调度。 【3.有周期任务,有其他周期实例,但是这个任务没有产生周期实例】
**【排查方式】**场景一:23:30分之后的发布操作第三天生效。 【排查方式】**场景二:右键周期任务DAG图--展开多层父节点,检查该节点是否变成了没有挂在_root下的孤立节点,孤立节点不产生实例(收到孤立节点报警请第一时间处理)
**【排查方式】**场景三:检查本节点及上游节点是否在有效期内。过期任务不产生周期实例。 **【现象原因】**节点依赖关系变动,导致节点没有上游依赖。
**【解决办法】**检查孤立节点的上游节点状态是否正常,为孤立节点重新设置依赖关系。孤立节点不产生实例(收到孤立节点报警请第一时间处理)
【4.有周期任务,有周期实例但未运行(节点状态灰色)】
**【排查方式】**右键灰色实例DAG--展开多层父节点,检查任务是否有正在运行、运行中、运行失败、等待状态,未冻结。如果都是灰色,请根据第二条检查是否没有挂在_root下,孤立节点不运行。
【现象原因】 1.正常调度,任务运行需要有多个条件,调度资源,定时时间,上游节点运行状态,正常调度(未被冻结) 2.上游没有出现以上任何一种状态,整个业务流程均为灰色,说明上游依赖关系变动导致业务流程都被孤立。
【解决办法】 1.正常调度情况下,如果等待资源的情况较多,请使用独享调度资源。 2.整个业务流程孤立请给该业务流程的root节点添加依赖的上游。
【5.任务运行必须满足的4个条件详述】
5.1 任务定时时间已到(等待时间的节点状态:黄色)
5.2 该节点所有的依赖的父节点都已经运行完成(运行成功节点状态:绿色,运维中心DAG图展开父节点)
5.3 项目下有足够的资源可让任务运行(等待资源节点状态:黄色,日志中显示当前项目下任务并发达到上限,正在等待gateway资源)
5.4.任务正常调度(任务被冻结节点状态:紫色)
【5.开发环境运维中心能否周期性调度】
此答案整理自钉群“DataWorks交流群(答疑@机器人)”"
目前仅支持整库实时同步MySQL、PolarDB、SQLServer类型的数据库至Elasticsearch。整库实时同步解决方案仅支持使用独享资源组。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
配置调度依赖后,可以保障调度任务在运行时能取到正确的数据(当前节点依赖的上游节点成功运行后,DataWorks通过节点运行的状态识别到上游表的最新数据已产生,下游节点再去取数)。避免下游节点取数据时,上游表数据还未正常产出,导致下游节点取数出现问题。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
您需要首先发布API至API网关,详情请参见发布API。您需要获取以下三个基础条件,才可以调用API:API:您即将要调用的API,明确API参数定义。应用APP:作为您调用API时的身份,AppKey和AppSecret用于验证您的身份。API和APP的权限关系:APP需要调用某个API,必须获取调用该API的权限。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
"新建main函数。Function Studio目前支持通过main函数调用UDF,进行在线调试。 设置Debug配置。单击右上角的config,进入配置页面。 您只需要选择新建的main函数,其他的信息都是自动生成的。配置 说明 Main class 选择需要调试的入口函数,必填项。 VM options 需要启动的JVM参数,非必填项。 Program Variables 启动参数,非必填项。 JRE 目前仅支持JDK1.8。 PORT 需要开放的HTTP端口,UDF/UDAF/UDTF类的项目此配置为非必填项。 机器 机器规格。 开启HOTCODE 是否需要支持热部署。启动Debug。在Lower的evaluate函数上断点后,启动Debug。 启动成功后即可进行正常的调试。可通过step into进入到UDF方法内,并查看变量值。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”"
是指的一键实时同步到maxcompute这个解决方案哈 https://help.aliyun.com/document_detail/175676.html 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
是不是在绑定引擎那里配置了访问账号为role,右上角 小扳手-绑定hologres引擎。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
"先加入一个绑定了maxcompute引擎的项目 联系空间管理员加一下分析师角色 此答案整理自钉群“DataWorks交流群(答疑@机器人)”"
运维中心的超时未完成吗 从开始的时间计算。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
dw主要是做大数据开发和治理 如果业务上已经搭建好对应体系 要做存储和计算是可以的 标签配置之类是没有的。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
有权限的账号在dataworks的odps sql节点 use 项目名; set... ;select 1;三句选中一起执行一下,或者在odpscmd中执行。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
"当传递工作空间标识和所属环境(生产、开发)而没有传递appGuid时,会尝试获取 工作空间标识+所属环境 这两个变量对应的默认计算引擎,如果当前这个MaxCompute计算引擎不是默认dataworks对接的maxc引擎则会找不到表。 当appGuid没有传递时,会尝试根据 工作空间标识+环境 获取对应的ODPS项目, 但是 工作空间标识+环境 两个参数可能对应了不止一个MaxCompute计算引擎,这里只能获取默认的。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”"
"方法一:在表管理创建,然后提交到开发环境或者生产环境 方法二:直接创建odps_sql节点,直接运行建表语句会在开发环境创建表,如果提交发布后运维中心运行后就会产生生产表; 此答案整理自钉群“DataWorks交流群(答疑@机器人)”"
"有两种方式: 方式1、新建表>填写表名>提交>设置表的属性(或点击右上角DDL模式,使用代码设置表)>提交到生产环境。 方式2、在手动类型栏下创建一个ODPS_SQL节点,在节点中写建表语句>在调度中设置上游节点>点击左上角“提交”>点击右上角“发布”>在任务发布页面找到自己创建的节点ID,选中点击右上角“打包发布”,发布后在运维中心>任务列表中找到这个节点,右键“在生产环境测试,”运行一下,等待任务运行成功即可。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”"
目前确实不支持哈。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
源端数据库服务本身有的函数是支持的 像mysql reader是拼接成sql 下发到mysql读取数据,而sls调用的接口读的数据 所以这里不支持。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
datastudio界面的代码搜索和运维中心-运维大屏的数据集成板块 看下是否符合预期 如果都不能满足的话 看一下openapi 此答案整理自钉群“DataWorks交流群(答疑@机器人)”
安全中心。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”