带你读《全链路数据治理-全域数据集成》之36:5. 任务运维

本文涉及的产品
大数据开发治理平台DataWorks,Serverless资源组抵扣包300CU*H
简介: 带你读《全链路数据治理-全域数据集成》之36:5. 任务运维

5. 任务运维

1) 查看任务状态

提交执行后,单击“执行详情”可以看到执行阶段进度以及详细信息,每一个步骤的执行详情还会提供外链,直接查看或者运维执行步骤。

image.png

l 节点依赖关系

image.png

StreamxCheckDone:本节点负责检查实时同步位点,当实时同步位点已经超过本次运行的业务时间时。本节点会运行成功。如果实时同步任务没有在运行,或者一直处于同步延迟中,本节点会一直检查 72 小时,超时后节点状态失败,阻塞下方节点执行,需要人工恢复实时同步后重跑 StreamxCheckDone 节点。


FullDataInitCheckDone:全量初始化结束后,会运行全量初始化标 done 节点,该节点负责在 MaxCompute 创建一个临时表,用于给全量数据初始化 CheckDone 节点检查全量初始化是否完成。


MergeIntoNode:当 StreamxCheckDone 和 FullDataInitCheckDone 都运行成功时,MergeIntoNode 开始合并上一业务日期的全量数据和新增的实时数据,产出新的全量天分区。


2) 增减数据源

分库分表至 MaxCompute 同步解决方案支持增加、减少同步的数据源。


修改同步任务,单击“批量编辑数据来源”,修改同步的数据源。


修改完成后提交执行同步解决方案,同步任务会找出新数据源所包含的新增子表,执行全量初始化。更新实时同步所同步的数据源。

image.png

3) 增减表

分库分表至 MaxCompute 同步解决方案支持增加、减少同步的逻辑表。


修改同步任务,操作“添加逻辑表”、“删除”即可实现增减表。


修改完成后提交执行同步解决方案,同步任务会全量初始化新表。更新实时同步所同步的逻辑表。

image.png

4) 附录

l 基础正则表达式

分库分表规则配置中,使用了 java 正则表达式,正则表达式的功能极其强大,以下

提供几个常用样例供参考。

image.png

附一些正则基础组成单元的样例。

image.png

正则表达式

作用


相关文章
|
13天前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
105 7
|
13天前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
29 2
|
25天前
|
数据采集 监控 数据管理
数据治理之道:大数据平台的搭建与数据质量管理
【10月更文挑战第26天】随着信息技术的发展,数据成为企业核心资源。本文探讨大数据平台的搭建与数据质量管理,包括选择合适架构、数据处理与分析能力、数据质量标准与监控机制、数据清洗与校验及元数据管理,为企业数据治理提供参考。
68 1
|
10天前
|
存储 大数据 数据管理
大数据分区简化数据维护
大数据分区简化数据维护
18 4
|
16天前
|
运维 监控 Python
自动化运维:使用Python脚本简化日常任务
【10月更文挑战第36天】在数字化时代,运维工作的效率和准确性成为企业竞争力的关键。本文将介绍如何通过编写Python脚本来自动化日常的运维任务,不仅提高工作效率,还能降低人为错误的风险。从基础的文件操作到进阶的网络管理,我们将一步步展示Python在自动化运维中的应用,并分享实用的代码示例,帮助读者快速掌握自动化运维的核心技能。
30 3
|
20天前
|
存储 大数据 定位技术
大数据 数据索引技术
【10月更文挑战第26天】
42 3
|
20天前
|
存储 大数据 OLAP
大数据数据分区技术
【10月更文挑战第26天】
52 2
|
23天前
|
消息中间件 分布式计算 大数据
数据为王:大数据处理与分析技术在企业决策中的力量
【10月更文挑战第29天】在信息爆炸的时代,大数据处理与分析技术为企业提供了前所未有的洞察力和决策支持。本文探讨了大数据技术在企业决策中的重要性和实际应用,包括数据的力量、实时分析、数据驱动的决策以及数据安全与隐私保护。通过这些技术,企业能够从海量数据中提取有价值的信息,预测市场趋势,优化业务流程,从而在竞争中占据优势。
68 2
|
23天前
|
运维 监控 Linux
自动化运维:如何利用Python脚本优化日常任务##
【10月更文挑战第29天】在现代IT运维中,自动化已成为提升效率、减少人为错误的关键技术。本文将介绍如何通过Python脚本来简化和自动化日常的运维任务,从而让运维人员能够专注于更高层次的工作。从备份管理到系统监控,再到日志分析,我们将一步步展示如何编写实用的Python脚本来处理这些任务。 ##
|
2月前
|
机器学习/深度学习 人工智能 运维
智能运维:大数据与AI的融合之道###
【10月更文挑战第20天】 运维领域正经历一场静悄悄的变革,大数据与人工智能的深度融合正重塑着传统的运维模式。本文探讨了智能运维如何借助大数据分析和机器学习算法,实现从被动响应到主动预防的转变,提升系统稳定性和效率的同时,降低了运维成本。通过实例解析,揭示智能运维在现代IT架构中的核心价值,为读者提供一份关于未来运维趋势的深刻洞察。 ###
85 10

热门文章

最新文章

下一篇
无影云桌面