Dataphin功能Tips系列(76)质量规则调度配置系列(3)-定时调度

本文涉及的产品
智能数据建设与治理Dataphin,200数据处理单元
简介: Dataphin「定时调度」功能支持按需设定数据质量检测时间与频率,适用于定期检查数据质量问题的场景。提供手动配置和系统推荐两种方式,可自动执行规则并生成报告,帮助用户高效发现并处理问题。

👉🏻 场景

在上一篇Tips中,我们介绍了「固定任务触发调度」 的方式执行质量规则,这种方式适用于涉及表数据更新的任务节点不会发生变更的场景。但当我们需要定期查看、检查某些数据质量问题时,更适合使用「定时调度」的方式进行规则配置和执行。

👉🏻 功能 / 解决方案

Dataphin 数据质量的 「定时调度」 功能,支持用户根据业务需求精确地设定质量检测的时间和频率,定时对数据进行质量检测。目前支持以下两种调度设置方式:

  • 手动配置:按日/周/月/小时/分钟自定义检测时间;
  • 系统自动推荐:根据该表产出任务的平均结束时间自动计算,减少人工判断成本。

假设小明是某项目的质量管理员,需要每周一早上定时查看项目内所有表的数据质量情况。那么,他可以通过 Dataphin 的「定时调度」功能轻松完成这个需求,我们具体操作步骤如下:

  1. 进入「治理」-「数据质量」-「质量规则」,点击「添加质量规则」,为需要检测的数据表配置具体的质量规则。在规则配置页面中,圈选需要监控的项目、表以及字段,并完成规则的各类细节设定。

  2. 接着,选中刚刚完成配置的质量规则,在规则列表中点击「配置调度」按钮,为该批规则设定调度时间。

  3. 在调度新建页面中,给任务命名,并选择调度类型为「定时调度」。设置运行周期为每周一早上 6:00,最后点击「确定」,完成该质量规则的调度配置。配置完成后,系统将在未来的每周一早上 6:00,自动进行质量检测。


  4. 质量调度配置完成并生效后,系统将在设定时间自动执行质量校验,并生成质量报告,方便小明快速定位问题数据进行整改。
  1. 当质量校验通过时,会生成一条新的检测记录,结果为“通过”;
  2. 当质量校验不通过时,会生成一条新的检测记录,结果为“不通过”。
相关文章
|
1天前
|
云安全 数据采集 人工智能
古茗联名引爆全网,阿里云三层防护助力对抗黑产
阿里云三层校验+风险识别,为古茗每一杯奶茶保驾护航!
古茗联名引爆全网,阿里云三层防护助力对抗黑产
|
5天前
|
人工智能 中间件 API
AutoGen for .NET - 架构学习指南
《AutoGen for .NET 架构学习指南》系统解析微软多智能体框架,涵盖新旧双架构、核心设计、技术栈与实战路径,助你从入门到精通,构建分布式AI协同系统。
300 142
|
5天前
|
Kubernetes 算法 Go
Kubeflow-Katib-架构学习指南
本指南带你深入 Kubeflow 核心组件 Katib,一个 Kubernetes 原生的自动化机器学习系统。从架构解析、代码结构到技能清单与学习路径,助你由浅入深掌握超参数调优与神经架构搜索,实现从使用到贡献的进阶之旅。
279 139
|
2天前
|
存储 机器学习/深度学习 人工智能
大模型微调技术:LoRA原理与实践
本文深入解析大语言模型微调中的关键技术——低秩自适应(LoRA)。通过分析全参数微调的计算瓶颈,详细阐述LoRA的数学原理、实现机制和优势特点。文章包含完整的PyTorch实现代码、性能对比实验以及实际应用场景,为开发者提供高效微调大模型的实践指南。
297 0
|
2天前
|
传感器 人工智能 算法
数字孪生智慧水务系统,三维立体平台,沃思智能
智慧水务系统融合物联网、数字孪生与AI技术,实现供水全流程智能监测、预测性维护与动态优化。通过实时数据采集与三维建模,提升漏损控制、节能降耗与应急响应能力,推动水务管理从经验驱动迈向数据驱动,助力城市水资源精细化、可持续化管理。
257 142
|
1天前
|
存储 人工智能 Java
AI 超级智能体全栈项目阶段四:学术分析 AI 项目 RAG 落地指南:基于 Spring AI 的本地与阿里云知识库实践
本文介绍RAG(检索增强生成)技术,结合Spring AI与本地及云知识库实现学术分析AI应用,利用阿里云Qwen-Plus模型提升回答准确性与可信度。
174 90
AI 超级智能体全栈项目阶段四:学术分析 AI 项目 RAG 落地指南:基于 Spring AI 的本地与阿里云知识库实践
|
17天前
|
存储 关系型数据库 分布式数据库
PostgreSQL 18 发布,快来 PolarDB 尝鲜!
PostgreSQL 18 发布,PolarDB for PostgreSQL 全面兼容。新版本支持异步I/O、UUIDv7、虚拟生成列、逻辑复制增强及OAuth认证,显著提升性能与安全。PolarDB-PG 18 支持存算分离架构,融合海量弹性存储与极致计算性能,搭配丰富插件生态,为企业提供高效、稳定、灵活的云数据库解决方案,助力企业数字化转型如虎添翼!
|
1天前
|
机器学习/深度学习 人工智能 运维
智能照明稳压节能控制器,路灯节能稳压系统,沃思智能
智能照明调控柜集电力分配、远程控制与能耗管理于一体,支持自动调光、场景切换与云平台运维,广泛应用于市政、商业及工业领域,显著节能降耗,助力智慧城市建设。
178 137
kde
|
2天前
|
人工智能 关系型数据库 PostgreSQL
n8n Docker 部署手册
n8n是一款开源工作流自动化平台,支持低代码与可编程模式,集成400+服务节点,原生支持AI与API连接,可自托管部署,助力团队构建安全高效的自动化流程。
kde
216 3