DataWorks百问百答46:数据质量的“规则” VS 运维中心的“规则”,有什么不同和关联之处呢?-阿里云开发者社区

开发者社区> DataWorks> 正文

DataWorks百问百答46:数据质量的“规则” VS 运维中心的“规则”,有什么不同和关联之处呢?

简介: 数据质量的“规则” VS 运维中心的“规则”

在DataWorks的数据质量和运维中心里,均出现了“规则”这一概念,那么这两个模块下的“规则”有什么不同和关联之处呢?

区别

数据质量中的规则,侧重于对具体数据的监控,目的是为了保证各节点产出数据表中的数据真实有效。具体操作表现为,您可以对业务流程中的某些重要节点来配置表级或字段级的规则,从而约束和监控数据表内的数据内容。例如,在表级规则中,设置表行数在一定时间周期内的波动率,如果超过这个波动率范畴,则说明该产出表很可能出现了数据缺失或者数据重复的问题;再例如,在字段级规则中,设置某个字段的内容不能为空,如果监测到某条记录中的该字段内容为空,则说明该条记录可能在运行过程中丢失了具体数据值。

运维中心中的规则,侧重于对整体运行的监控,目的是为了保障整个业务流程和内部关键链路能够平稳和顺利地运行,是一种全局化的监控。具体操作表现为,您可以选择不同的粒度(任务节点、基线、业务流程、工作空间)来创建规则,小到单一节点,大到工作空间,单至一条基线,多至并行链路,您都可以灵活地选择规则的应用范围。与此同时,通过选择触发条件,您可以对运行的不同状态进行更加详细地把控:完成、未完成、出错、周期未完成和超时。

关联

数据质量的规则支持与运维中心的调度任务关联。在表规则和调度任务绑定后,运维中心的任务实例运行完成都会触发数据质量的检查。对表规则和任务进行关联调度有两种方式:1)在运维中心中,找到周期任务并右键选择“配置质量监控”;2)在数据质量中,在规则配置页面,单击“关联调度”并绑定已经提交到调度的某个节点。


无论是数据质量中的规则还是运维中心中的规则,都是为了能够更好地帮助您进行全方位地维护和把关,在必要时为您产生报警信息进行提示,规则的报警方式是多样化的,在两个模块中均支持邮件、短信和钉钉群机器人的报警通知。

总结

选择哪个模块的规则、具体选择哪条规则,需要根据您的业务场景和侧重对象进行不同的选择和搭配,详细的配置说明请分别参考官网文档:
数据质量规则配置:https://help.aliyun.com/document_detail/85362.html?spm=a2c4g.11174283.6.614.638b2b65w7lVTM
运维中心规则配置:https://help.aliyun.com/knowledge_detail/138172.html
不管是数据方面的规则,还是运维方面的规则,我们都希望能通过灵活多样的方式来为您的业务开发工作提供便捷。

DataWorks百问百答历史记录 请点击这里查看>>

更多DataWorks技术和产品信息,欢迎加入【DataWorks钉钉交流群】

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
DataWorks
使用钉钉扫一扫加入圈子
+ 订阅

DataWorks作为飞天大数据平台操作系统,对接各种大数据计算引擎,以all in one box的方式提供专业高效、安全可靠的全域智能大数据平台,高效率完成数据全链路研发流程,建设企业数据治理体系。 从2009年飞天大数据平台写下第一行代码开始,DataWorks历经10年发展,形成一套成熟的产品功能体系,满足企业数据中台搭建需求。

官方博客
DataWorks产品官网