带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(5)

本文涉及的产品
智能数据建设与治理Dataphin,200数据处理单元
简介: 带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(5)

《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——二、Dataphin 演进之路:产品大图及核心功能详解——(二)研发:集成、建模、发布、运维(4) https://developer.aliyun.com/article/1229661?groupCode=dataphin



4. 调度运维,为数据建设保驾护航


1) 业务痛点


个客最近 30 的平消费需要基于汇总的门店订分析

的数据更新了能运行


9 就要,这个务可一定要早跑完,先级成最最最最最


了,我可不脑屏幕呀


......


是数据发和运维工作中经遇到题,整个数据研发流程,任务和务之间存在多数据关系,不同的数据有各自的更新时要求;此外,需要对应的资源,我们希望配调度资源和运行资源,运行。这些发运维增加了工作度。


Dataphin 的统一度和运维系统,为的数据建设Dataphin 自研的调度系统支持灵活期、游依型和配置,可配多样性的数据研发场景。运维中心包括务运维、实运维和控告配置功能,为提供作与运行查看&资源分析等多方的运维能。下面,我们就来具体看看有哪些厉害吧!


2) 功能介绍


运维中心是维生产务有、正运行,数据能正产出的守卫者,是整个研发链路最重的一道保障


a) 如何保障数据有序、正确产出?


image.png


务时,首先需要务运行频率和数据产出时断该务的类型,并对不同型的度规则的配置。其中,度是最常用调度方式。针务,我们需要配置下关键信息


优先支持、中等、、最5 先级,度资源的配。对于需要保障务,可以过设高优先级配置资源


度类型支持度、度、暂停度三方式。度的任务生成有实例直接,不会正运行;暂停度的务生成的实例均为暂运行状态常用于经常需要暂停些链路的数据更新、不希望频繁下线任的场景。


周期支持分时、、月度,不同期对应不同的运行频率,并支持配置个实度时务,需要每小时从业务库抽时新增的数据,销售的合并计算,则需要配置调度周期为运行时个整,以数据时性。


上游:提供自,可以基于 SQL 在数据赖的务并自加。对于不在数据关系是有(如用于数据变化情况check 务),可以加。


赖上周期支持配置依务自务的期实。有时为了防止多个实同时运行造成的数据突或重复,需要保务同一时只有一个务在运行,此时可以配置销售任务,计算口径销售+销售外一些场景下,任务运行完成时间较,对于数据时求不的下,可以配置依务的上周期。


基于配置可以据实际业务场景数据的确保数据赖关系正对应的配置依赖条证调关系正;加之优先级等配置,可实现数据有、正地产出。



《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——二、Dataphin 演进之路:产品大图及核心功能详解——(二)研发:集成、建模、发布、运维(6) https://developer.aliyun.com/article/1229658?groupCode=dataphin

相关文章
|
6月前
|
运维 分布式计算 监控
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——1. 用中台方法论构建与治理企业级好数据概览
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——1. 用中台方法论构建与治理企业级好数据概览
328 0
|
6月前
|
运维 算法 安全
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——4. 特色研发能力
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——4. 特色研发能力
282 1
|
6月前
|
数据建模 供应链 定位技术
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——2. 规划:高屋建瓴,总览企业数据体系
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——2. 规划:高屋建瓴,总览企业数据体系
113 0
|
6月前
|
数据采集 调度 监控
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——3. 研发:高效建设,稳定运行
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——3. 研发:高效建设,稳定运行
190 0
|
6月前
|
SQL API 数据安全/隐私保护
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——6. 数据服务:集中管控,快速服务业务系统
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——6. 数据服务:集中管控,快速服务业务系统
157 0
|
12月前
|
运维 监控 机器人
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(6)
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(6)
451 0
|
12月前
|
数据采集 存储 运维
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(1)
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(1)
605 0
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(1)
|
12月前
|
数据采集 SQL 运维
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(2)
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(2)
593 0
|
12月前
|
数据采集 SQL 运维
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(3)
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(3)
445 0
|
12月前
|
运维 资源调度 监控
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(7)
带你读《构建企业级好数据(Dataphin智能数据建设与治理白皮书)》——(二)研发:集成、建模、发布、运维(7)
430 0

相关产品

  • 智能数据建设与治理 Dataphin