带你读《全链路数据治理-全域数据集成》之36:5. 任务运维

本文涉及的产品
大数据开发治理平台 DataWorks,不限时长
简介: 带你读《全链路数据治理-全域数据集成》之36:5. 任务运维

5. 任务运维

1) 查看任务状态

提交执行后,单击“执行详情”可以看到执行阶段进度以及详细信息,每一个步骤的执行详情还会提供外链,直接查看或者运维执行步骤。

image.png

l 节点依赖关系

image.png

StreamxCheckDone:本节点负责检查实时同步位点,当实时同步位点已经超过本次运行的业务时间时。本节点会运行成功。如果实时同步任务没有在运行,或者一直处于同步延迟中,本节点会一直检查 72 小时,超时后节点状态失败,阻塞下方节点执行,需要人工恢复实时同步后重跑 StreamxCheckDone 节点。


FullDataInitCheckDone:全量初始化结束后,会运行全量初始化标 done 节点,该节点负责在 MaxCompute 创建一个临时表,用于给全量数据初始化 CheckDone 节点检查全量初始化是否完成。


MergeIntoNode:当 StreamxCheckDone 和 FullDataInitCheckDone 都运行成功时,MergeIntoNode 开始合并上一业务日期的全量数据和新增的实时数据,产出新的全量天分区。


2) 增减数据源

分库分表至 MaxCompute 同步解决方案支持增加、减少同步的数据源。


修改同步任务,单击“批量编辑数据来源”,修改同步的数据源。


修改完成后提交执行同步解决方案,同步任务会找出新数据源所包含的新增子表,执行全量初始化。更新实时同步所同步的数据源。

image.png

3) 增减表

分库分表至 MaxCompute 同步解决方案支持增加、减少同步的逻辑表。


修改同步任务,操作“添加逻辑表”、“删除”即可实现增减表。


修改完成后提交执行同步解决方案,同步任务会全量初始化新表。更新实时同步所同步的逻辑表。

image.png

4) 附录

l 基础正则表达式

分库分表规则配置中,使用了 java 正则表达式,正则表达式的功能极其强大,以下

提供几个常用样例供参考。

image.png

附一些正则基础组成单元的样例。

image.png

正则表达式

作用


相关文章
|
16天前
|
运维 Unix 应用服务中间件
自动化运维:使用Ansible简化日常任务
【8月更文挑战第4天】在现代IT架构中,自动化运维成为提升效率、减少人为错误的关键。本文将介绍如何使用Ansible这一强大的自动化工具来简化日常的运维任务,通过实际代码示例,展示配置管理、软件部署和系统更新等操作。我们将探索如何利用Ansible的简洁语法和强大功能来优化工作流程,从而为读者提供一套实用的自动化解决方案。
|
17天前
|
运维 监控 网络安全
自动化运维:使用Python脚本简化日常任务
【8月更文挑战第3天】在本文中,我们将探讨如何通过编写简单的Python脚本来优化和自动化常见的系统运维任务。文章将展示具体的代码示例,并解释如何在真实环境中应用这些脚本以提升效率和减少人为错误。
35 6
|
18天前
|
弹性计算 运维 监控
通过阿里云OOS“快速设置”快速配置多地域运维任务
阿里云OOS的快速设置功能助力用户简便配置多地域运维任务,如云监控安装、配置收集与补丁扫描,定时开关机,周期性带宽升级,实现自动化管理,确保配置一致性,提升运维效率。
104 3
|
1月前
|
SQL DataWorks 关系型数据库
DataWorks产品使用合集之数据集成时源头提供数据库自定义函数调用返回数据,数据源端是否可以写自定义SQL实现
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
1月前
|
分布式计算 DataWorks 调度
DataWorks产品使用合集之在使用MaxCompute进行数据集成同步到OSS时,出现表名和OSS文件名不一致且多了后缀,该如何处理
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
2月前
|
数据采集 DataWorks 安全
DataWorks产品使用合集之选择独享调度,数据集成里可以使用,但是数据地图里面测试无法通过,是什么原因导致的
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
29 0
DataWorks产品使用合集之选择独享调度,数据集成里可以使用,但是数据地图里面测试无法通过,是什么原因导致的
|
1月前
|
分布式计算 运维 DataWorks
MaxCompute操作报错合集之用户已在DataWorks项目中,并有项目的开发和运维权限,下载数据时遇到报错,该如何解决
MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
|
1月前
|
DataWorks 安全 API
DataWorks产品使用合集之是否可以不使用DataWorks进行EMR的调度和DataX数据导入
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
1月前
|
数据采集 分布式计算 大数据
MaxCompute产品使用合集之数据集成中进行数据抽取时,是否可以定义使用和源数据库一样的字符集进行抽取
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
1月前
|
存储 运维 DataWorks
DataWorks产品使用合集之如何把运维中心数据集成里面各个任务的执行时间拉取出来
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。

热门文章

最新文章