【数据中台】如何提升数据质量

本文涉及的产品
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
简介: 数据质量提升

数据质量管理主要从6个方面考虑:完整性,规范性,一致性,准确性,唯一性,时效性

首先,数据质量的保证紧靠技术是远远不够的。
在实际工作中,在整个数据质量的控制过程中,人的影响最大。
所以,要想真正长期保证数据的高质量,最重要的是早发现,早恢复
早发现,就是要先于数据使用方发现数据的问题,尽可能在出现问题的源头发现问题,这样就为早恢复正取到了大量的时间。
早恢复,就是要缩短故障恢复时间,降低故障对数据产出的影响。

可以分事前、事中、事后三个阶段来保障的。

  • 事前:
  1. 针对数据提供环节,建立数据标准,明确数据的定义,按照标准、质量提供数据。
  2. 应急预案准备,这里分为三个方面:

    • 第一方面,建立制度保证,比如当问题出现时,这个问题是谁负责,沟通的机制是什么,后续

如果要修复线上bug的时候,应急的发布流程是什么,谁来负责开发,谁来负责做复合,谁来负责做审批。

- 第二方面,**定期巡检**,建立一个可复用的数据收集,数据预处理和数据维护流程,来应对不断变化的企业内外部因素,在数据预处理流程中设立多个性能监控点,我们会对数据产品,数据加工,基础架构设置一些关注的指标,比如CPU压力,线上的数据流量,延时时长等。(可参考本人写的[数据稽核](https://blog.csdn.net/weixin_42526352/article/details/105260011?spm=1001.2014.3001.5501)相关的文章)
- 第三方面,**应急处理**,当这些指标出现了告警的时候,会相应出发应急处理的流程,这些应急处理流程是之前对可能发生的情况进行一些预估,提前制定了一些处理问题的方案,
  • 事中:

设立应急小组执行预案,持续对指标进行监控,如有意外的问题发生,及时分析问题根源,并快速制定决策,持续跟进效果。

  • 事后:

数据问题复盘,策略沉淀。将原预案的遗漏点进行分析和梳理,将这部分的预案补上。同时对数据问题,比如数据出现延迟或者错误,则通过对流程或者制度不断进行改善和优化,将共性的质量问题沉淀至保障方案中。

监控指标:

  1. 数据落地监控
  2. 数据掉0监控:实际扩展一下就是数据量阈值监控,少于某个量就告警
  3. 重复数据监控:很多表一定要监控重复数据的,这点至关重要。
  4. 数据量、指标值同比环比监控
  5. 重要枚值字段的离散值监控
  6. 业务规则监控
  7. 重要字段的非空监控
  8. 数据对账
相关实践学习
阿里云百炼xAnalyticDB PostgreSQL构建AIGC应用
通过该实验体验在阿里云百炼中构建企业专属知识库构建及应用全流程。同时体验使用ADB-PG向量检索引擎提供专属安全存储,保障企业数据隐私安全。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
目录
相关文章
|
3月前
|
数据采集 存储 机器学习/深度学习
AllData数据中台核心菜单七:数据质量平台
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
|
数据采集 SQL 运维
基于Apache doris怎么构建数据中台(五)-数据质量管理
接入及后续的数据处理中质量怎么控制。
509 0
基于Apache doris怎么构建数据中台(五)-数据质量管理
|
8月前
|
Shell Android开发
Android系统 adb shell push/pull 禁止特定文件
Android系统 adb shell push/pull 禁止特定文件
637 1
|
8月前
|
Android开发 Python
Python封装ADB获取Android设备wifi地址的方法
Python封装ADB获取Android设备wifi地址的方法
176 0
|
开发工具 Android开发
Mac 安卓(Android) 配置adb路径
Mac 安卓(Android) 配置adb路径
907 0
|
5月前
|
Shell Linux 开发工具
"开发者的救星:揭秘如何用adb神器征服Android设备,开启高效调试之旅!"
【8月更文挑战第20天】Android Debug Bridge (adb) 是 Android 开发者必备工具,用于实现计算机与 Android 设备间通讯,执行调试及命令操作。adb 提供了丰富的命令行接口,覆盖从基础设备管理到复杂系统操作的需求。本文详细介绍 adb 的安装配置流程,并列举实用命令示例,包括设备连接管理、应用安装调试、文件系统访问等基础功能,以及端口转发、日志查看等高级技巧。此外,还提供了常见问题的故障排除指南,帮助开发者快速解决问题。掌握 adb 将极大提升 Android 开发效率,助力项目顺利推进。
131 0
|
8月前
|
Shell Android开发
ADB更改Android设备屏幕显示方向
ADB更改Android设备屏幕显示方向
404 5
|
8月前
|
Java Android开发
Android 对adb命令的拦截
Android 对adb命令的拦截
116 2
|
7月前
|
Shell 开发工具 Android开发