带你读《全链路数据治理-全域数据集成》之36:5. 任务运维

本文涉及的产品
大数据开发治理平台 DataWorks,不限时长
简介: 带你读《全链路数据治理-全域数据集成》之36:5. 任务运维

5. 任务运维

1) 查看任务状态

提交执行后,单击“执行详情”可以看到执行阶段进度以及详细信息,每一个步骤的执行详情还会提供外链,直接查看或者运维执行步骤。

image.png

l 节点依赖关系

image.png

StreamxCheckDone:本节点负责检查实时同步位点,当实时同步位点已经超过本次运行的业务时间时。本节点会运行成功。如果实时同步任务没有在运行,或者一直处于同步延迟中,本节点会一直检查 72 小时,超时后节点状态失败,阻塞下方节点执行,需要人工恢复实时同步后重跑 StreamxCheckDone 节点。


FullDataInitCheckDone:全量初始化结束后,会运行全量初始化标 done 节点,该节点负责在 MaxCompute 创建一个临时表,用于给全量数据初始化 CheckDone 节点检查全量初始化是否完成。


MergeIntoNode:当 StreamxCheckDone 和 FullDataInitCheckDone 都运行成功时,MergeIntoNode 开始合并上一业务日期的全量数据和新增的实时数据,产出新的全量天分区。


2) 增减数据源

分库分表至 MaxCompute 同步解决方案支持增加、减少同步的数据源。


修改同步任务,单击“批量编辑数据来源”,修改同步的数据源。


修改完成后提交执行同步解决方案,同步任务会找出新数据源所包含的新增子表,执行全量初始化。更新实时同步所同步的数据源。

image.png

3) 增减表

分库分表至 MaxCompute 同步解决方案支持增加、减少同步的逻辑表。


修改同步任务,操作“添加逻辑表”、“删除”即可实现增减表。


修改完成后提交执行同步解决方案,同步任务会全量初始化新表。更新实时同步所同步的逻辑表。

image.png

4) 附录

l 基础正则表达式

分库分表规则配置中,使用了 java 正则表达式,正则表达式的功能极其强大,以下

提供几个常用样例供参考。

image.png

附一些正则基础组成单元的样例。

image.png

正则表达式

作用


相关文章
|
12天前
|
数据采集 供应链 搜索推荐
数据集成:融合不同来源的数据
【6月更文挑战第4天】数据集成在企业中发挥关键作用,连接数据孤岛,促进信息流动,提升决策能力。通过抽取、清洗、转换和加载(ETL)不同来源、格式的数据,整合到统一框架,进行深度分析。以零售商为例,集成销售、客户和供应链数据可优化库存管理。数据清洗确保质量,转换满足分析需求,最终加载到数据仓库。Python和pandas库是实现这一过程的工具之一。随着技术进步,数据集成将推动企业向智能化和个性化发展。
37 2
|
18天前
|
存储 SQL 分布式计算
闲侃数仓优化-大数据治理和优化
闲侃数仓优化-大数据治理和优化
31 0
|
5天前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI产品使用合集之如何在odps上启动独立的任务
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
人工智能平台PAI产品使用合集之如何在odps上启动独立的任务
|
5天前
|
分布式计算 DataWorks 关系型数据库
DataWorks操作报错合集之数据源同步时,使用脚本模式采集mysql数据到odps中,使用querySql方式采集数据,在脚本中删除了Reader中的column,但是datax还是报错OriginalConfPretreatmentUtil - 您的配置有误。如何解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
5天前
|
机器学习/深度学习 分布式计算 运维
MaxCompute产品使用合集之任务执行时间不规律是什么导致的
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
5天前
|
SQL 存储 分布式计算
MaxCompute产品使用合集之如何设置自动运行多次某个区间的任务
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
5天前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之如何增加Reduce任务的个数
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
5天前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之如何在本地IDE(如IntelliJ IDEA)中配置MaxCompute (mc) 的任务和调试SQL
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
6天前
|
SQL DataWorks 安全
DataWorks产品使用合集之在进行测试数据集成时,目标库的数据是源库数据的3倍量,是什么导致的
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
DataWorks产品使用合集之在进行测试数据集成时,目标库的数据是源库数据的3倍量,是什么导致的
|
7天前
|
分布式计算 DataWorks DataX
DataWorks产品使用合集之DataX的ODPSReader和Tunnel是两种不同的读取MC(原名ODPS)数据的方式吗
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
12 3

热门文章

最新文章