DataWorks DQC中SQL级别和任务级别的区分是什么?
在DataWorks的数据质量中心(DQC),SQL级别和任务级别是两种不同的数据质量检测方式,用于对数据进行不同层次的质量检查。
SQL级别:
任务级别:
DQC中SQL级别和任务级别的区分:
sql级别:指多段sql,每段sql执行完毕后都会触发dqc执行校验;
任务级别:任务级别会等待整个任务的多段sql执行全部完毕,再统一校验。如果配置了任务级别的分区表达式,触发的时候是不通过匹配逻辑的(匹配逻辑:分区表达式根据调度传过来的bizdate做替换计算,得到的结果跟调度实际传过来的分区表达式做匹配,如果一致则用这个分区表达式下的规则校验,不匹配则不校验),任务级别直接用bizdate替换掉分区表达式得到结果,这个结果作为实际校验的分区,此回答整理自钉群“DataWorks交流群(答疑@机器人)”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。