谈谈数据管理中的数据治理和元数据

简介: 数据治理是数据管理策略中最基本的功能,因为它是其他功能的中心和领导。在这里,我们应该对两个经常被误解的概念进行区分:

一 数据治理

数据治理是数据管理策略中最基本的功能,因为它是其他功能的中心和领导。在这里,我们应该对两个经常被误解的概念进行区分:

•数据治理负责定义数据管理策略

•数据管理是执行定义的策略

虽然数据治理不是一个技术性的功能,但它可以利用元数据和建模工具的力量来定义数据管理的某些方面。这些工具将用于更好地理解将要使用的数据和数据流的总体架构。

根据DAMA,数据治理是指对组织中使用的数据的可靠性、可用性、完整性和安全性的综合管理。

数据治理包括:

•管理机构(理事会)

•一套标准和政策

•执行这些标准和政策的计划。

数据治理计划在整个组织中建立流程,以便在系统和应用程序中提供标准,例如术语的定义和一致的业务规则。

它确定参与需求定义的合适人员,并建立数据标准和数据使用的定义。

数据治理确保在整个组织中定义和应用相同的数据标准和策略。

1数据管理的基本原则

•为了确保在整个企业中遵循已定义的标准,必须建立一个数据治理组织。

•数据治理的组织涉及到多层业务和技术角色的组合:

•发起人:为数据治理工作提供领导和资金

•数据管理委员会:鼓励采用和实施控制和流程

•角色:为数据建立角色并明确定义职责

•标准:明确定义和发布的标准和政策

•监督:建立跟踪、审计和报告符合标准和政策的过程。

•变更控制:建立评估、批准和沟通标准和策略变更的过程。

•执行支持:确保执行人员参与并与数据治理计划保持一致。

2数据治理过程

03b5e400f6db85306f8824753fc9e467.png

(1)数据治理组织建立

•确定数据治理计划的执行发起人

•建立数据治理委员会

•让数据治理活动的主要涉众(数据所有者、数据管理员、数据管家、架构师)参与进来

(2)定义标准和数据策略

•定义数据标准

•定义数据策略

(3)数据标准和政策遵从

•在整个组织内应用标准和数据策略

(4)审计监控及及测量

•定期进行审计和控制操作

•数据治理控制绩效的监控和测量。

3数据治理的技术工具

元数据和数据质量支持工具用于数据治理的实现。市场上很少有工具被认为是特定的。数据治理的重要功能是设计工作流,该工作流可用于实现数据标准和策略。另一个重要的功能是设计用于监视和控制数据治理活动的仪表板。

852c11a968245715e48f5abc0a0ae0f3.png

二 元数据

元数据管理是成功的数据管理策略的另一个关键功能。在深入讨论它之前,让我们先介绍元数据的概念和它的不同类型。

1元数据的基本概念

根据维基百科,元数据是“提供关于其他数据的信息的数据信息”。换句话说,元数据是关于数据的数据,数据提供关于该数据的一个或多个方面的信息

元数据用于总结基本信息,以便于跟踪和处理数据。例如,我们一张数字图像,它的元数据可以是图像的大小、分辨率、存储的位置、生成的时间等等。元数据概念中有两个基本组件:数据元素(DE)和关键数据元素(CDE)。(

1)数据元素(DE)

数据元素或DE,是由一组属性组成的数据原子单元:

•定义

•识别

•表示

•允许的值

(2)关键数据元素(CDE)

关键数据元素是对特定业务领域或业务流程的成功至关重要的数据元素。数据元素成为关键元素的标准是:

•业务数据被认为是该组织的关键元素。

•关键业务流程数据及其组件,例如客户联系方式。

•高级业务报告中使用的关键数据。

•公司中重要事物的唯一标识符,例如客户ID。

2元数据管理

它涉及到管理关于其他数据的数据,例如数据模型和结构,而不是内容。它包括管理关于不同模型的数据结构及其关联的信息,如:

•术语表中的业务术语

•数据逻辑模型或数据库表和列中的属性,以及它们的关联有业务元数据和技术元数据,它们的特征如下图所示:

ddfd006c521a3316d7d9a7bffb2a40af.png

(1)业务元数据

它们从业务使用的角度描述数据元素,包括包含术语和定义、同义词、首字母缩写、业务规则和职责的业务术语表等信息。我们所说的业务元数据是指:

•商业词汇和分类

•业务规则

•责任

(2)技术元数据

它们从技术的角度描述数据元素,包括逻辑数据模型、源和目标系统、表和字段结构以及系统依赖关系等信息。操作元数据是关于应用程序的:频率、帐户记录,以及用于审计目的的分析和其他统计数据的组件。

(3)关键数据元素标准

技术和业务元数据表示关键数据元素标准,这意味着从技术和业务角度对关键数据元素进行了全面描述。

关键数据元素标准又称关键数据元素的360º视图。通过获得关键数据元素的360°视图,为整个组织的数据管理提供最佳条件,这是数据管理的最终目标。一旦实现了这一点,就有可能回答以下问题:

•关键数据元素的定义是什么?

•谁拥有关键数据元素业务?

•关键数据元素存储在哪里?

•在哪些报告中使用关键数据元素 ?

(4)元数据管理角色

元数据管理涉及到的几个角色:

•业务所有者:负责数据的定义、质量和数据价值。他们负责确认数据的使用与一般数据策略一致。数据治理,他们还负责驱动活动和数据管理流程。

•管理员:或者数据管家负责对数据进行操作监控,以及与整个组织中各个领域的专家进行互动,以及确认数据标准的定义,以及流程和实践的实施

•技术负责人:技术专家,负责确保来自系统的数据由已定义的数据标准管理和使用。包括遵从业务规则、策略和过程。

•数据保管人:技术专家,负责系统中数据的安全管理。它负责确认所定义的数据标准是否得到应用。

•关键数据元素的最终来源是什么系统?

3元数据管理流程

10d3174593e2cdbf80db8f200cb4ec1e.png

元数据流程活动涵盖了数据管理中的人员、流程和技术。

(1)识别关键数据元素

通过与涉众面谈来分析业务需求和确定最相关的关键数据元素的活动。

(2)为关键数据元素收集业务元数据

对于相关的关键数据元素定义业务术语,同义词、首字母缩写、定义和分类法也定义业务规则并负责地确定这些规则。

(3)为关键数据元素收集技术元数据

对于相关的关键数据元素,确定数据系统中的关键数据元素表示,确定数据源和数据沿袭。

(4)创建关键数据元素标准(360º视图)

关键数据元素创建业务和技术元数据之间的关联,验证关键数据元素数据标准。

(5)应用关键数据元素标准

确保符合关键数据元素标准,以确保每个关键数据元素的管理并由定义的标准(数据治理)使用。

4系统开发的生命周期

指的是计划、创建、测试和部署信息的过程。定义从系统开发生命周期中获得的元数据,并将其作为元数据功能过程的一部分,这一点很重要。

aef5c6020e9673a1886a4f603606f27f.png

5元数据工具

元数据管理系统最低技术要求要包含以下功能:

•能够建立和部署集中的元数据存储库。

•能够通过词汇表的层次结构定义一致的术语、有效的定义、有效的值和数据域。

•能够从数据建模工具、商业智能工具和ETL中提取最流行的数据库管理系统(Oracle、SQLServer、NoSQL)的元数据。

•能够管理来自多个来源和技术的元数据版本。

16aeb475edbfc0659aa1a5830d20ef12.png

三 小结

元数据被称为“描述数据的数据”,是数据治理的基础,元数据描述着数据的属性,数据与数据之间的关系,对我们进行数据治理有着极深的关系,它清晰展示出数据的血缘关系、提供数据地图和影响分析大大提高业务人员在业务系统修改数据时的效率,是数据治理的基石。

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
相关文章
|
5月前
|
数据采集 存储 安全
数据治理≠数据管理!90%的企业都搞错了重点!
在数字化转型中,数据不一致、质量差、安全隐患等问题困扰企业。许多组织跳过基础的数据管理,直接进行数据治理,导致方案难以落地。数据管理涵盖数据生命周期中的采集、存储、处理等关键环节,决定了数据是否可用、可靠。本文详解数据管理的四大核心模块——数据质量、元数据、主数据与数据安全,并提供构建数据管理体系的四个阶段:评估现状、确定优先级、建立基础能力与持续改进,助力企业夯实数据基础,推动治理落地。
|
9月前
|
存储 数据管理 数据格式
数据治理 vs. 数据管理:别再傻傻分不清!
数据治理 vs. 数据管理:别再傻傻分不清!
496 10
|
5月前
|
数据采集 存储 SQL
数据管理四部曲:元数据管理、数据整合、数据治理、数据质量管控
老张带你搞定企业数据管理难题!数据找不到、看不懂、用不好?关键在于打好元数据管理、数据整合、数据治理和数据质量管控四大基础。四部曲环环相扣,助你打通数据孤岛,提升数据价值,实现精准决策与业务增长。
数据管理四部曲:元数据管理、数据整合、数据治理、数据质量管控
|
6月前
|
数据采集 监控 数据管理
数据管理最容易混淆的3个概念:元数据、数据元、元模型
本文深入解析数据领域三大核心概念:“元数据”“数据元”“元模型”,从定义、用途到实际应用,清晰区分三者区别。元数据是“数据的说明书”,描述数据来源与使用方式;数据元是“最小数据单元”的标准,确保数据统一与规范;元模型是“模型的设计规则”,指导模型合理构建。三者相辅相成,是数据治理不可或缺的基础。掌握它们,助你提升数据管理效率,避免踩坑。
|
人工智能 关系型数据库 分布式数据库
拥抱Data+AI|“全球第一”雅迪如何实现智能营销?DMS+PolarDB注入数据新活力
针对雅迪“云销通App”的需求与痛点,本文将介绍阿里云瑶池数据库DMS+PolarDB for AI提供的一站式Data+AI解决方案,助力销售人员高效用数,全面提升销售管理效率。
|
7月前
|
数据采集 人工智能 监控
企业数据来源杂、质量差,如何通过主数据管理解决?如何确保数据可信、一致和可用?
本文三桥君系统介绍了主数据管理(MDM)在企业数字化转型中的关键作用。产品专家三桥君从数据清洗、治理、处理到流转四个维度,详细阐述了如何通过标准化流程将数据转化为企业核心资产。重点包括:数据清洗的方法与工具应用;数据治理的组织保障与制度设计;数据处理的三大核心动作;以及数据流转的三种模式与安全控制。专家三桥君强调主数据管理能够推动企业从"经验决策"转向"数据驱动",并提出构建统一数据服务网关、"数据血缘图谱"等实战建议,为企业数字化转型提供系统化解决方案。
288 0
|
机器学习/深度学习 人工智能 Cloud Native
数据管理革命:2025年推动安全性、可扩展性和治理的趋势
数据管理革命:2025年推动安全性、可扩展性和治理的趋势
|
关系型数据库 分布式数据库 数据库
云栖大会|从数据到决策:AI时代数据库如何实现高效数据管理?
在2024云栖大会「海量数据的高效存储与管理」专场,阿里云瑶池讲师团携手AMD、FunPlus、太美医疗科技、中石化、平安科技以及小赢科技、迅雷集团的资深技术专家深入分享了阿里云在OLTP方向的最新技术进展和行业最佳实践。
|
存储 人工智能 安全
【荣誉奖项】荣获2024数据治理优秀产品!瓴羊Dataphin联合DAMA发布数据管理技能认证
瓴羊Dataphin连续俩年获得DAMA年度优秀数据治理产品奖,本次与DAMA联合发布“DAMA x 瓴羊 数据管理技能认证”,助力提升全民数据素养。
674 0
【荣誉奖项】荣获2024数据治理优秀产品!瓴羊Dataphin联合DAMA发布数据管理技能认证

热门文章

最新文章