元数据是什么?怎么管?

本文涉及的产品
数据管理 DMS,安全协同 3个实例 3个月
推荐场景:
学生管理系统数据库
简介: 元数据是什么?怎么管?

元数据怎么管?

我敢打包票,小羊羊也没加入到我的知识星球里,否则的话也不会来问我,因为星球里的内容足够解释她所有的问题

不过小羊羊来问了,我还是得一本正经地回答好,不能辜负了她的期望,也正好给大家分享分享。

元数据怎么管?对于一个没接触过的人来说,简直是一个噩梦。因为理解元数据已经很艰难了,更别说管理元数据。而且身在大厂的小羊羊,很有可能在做元数据管理系统。

在这个时候,最先要做的,其实要做三件事情:

1、彻底弄清楚什么是元数据,什么是元数据管理;
2、查清楚是否有相关标准,用专家的智慧当做指导,防止自己跑偏了;
3、找到业内样例,作为对(chao)(zuo)(ye)考(de)

我们今天就按照这个逻辑一一说清楚。

什么是元数据?什么是元数据管理?

鉴于我在之前用人话解释过什么是元数据,元数据的种类有哪些,这里就不再赘述了,人话版点我。所以这次就引用一下权威

元数据,就是“关于数据的数据”。

它描述了数据本身(例如,数据库,数据元素,数据模型),数据表示的概念(例如,业务流程,应用程序系统,软件代码,技术基础结构)以及数据和概念之间的连接(关系)

元数据可帮助我们了解数据、系统和业务流程,有助于处理、维护、集成、保护、审核和
管理其他数据

                                                                        --来自于:DMBOK-元数据管理

那元数据怎么管理呢?管理肯定要先分类。元数据可以分为业务元数据、技术元数据和操作元数据。当然,还有一个有争议的管理元数据。权威说明在这里哈:

分类之后呢?那就简单了,梳理目录、ID、命名、属性等内容,设计注册、启停用、版本等基础功能,剩下的就是做增删改查了。

元数据管理标准

不过,为了防止我们刚才想的不够全面,还是得找一个标准参考一下。这边都准备好了:

《GB_T 18391.1-2009 信息技术 元数据注册系统(MDR)》

这里面还给出了元数据注册系统的总体模型,分为概念层和表示层,具体如下:

简单理解,就是我们需要在概念层(这个元数据是什么?)阐述清楚,然后再写清楚这个概念的具体值(这个元数据有什么?),这才构成了一个完整的元数据。

举个例子:

概念:长度计量单位

 

值域:千米、米、分米、厘米、毫米、微米、纳米。

另外,一个元数据实体肯定还有其他的各种属性,比如名称、类型、精度、含义、版本、归口单位、分类、状态等等。

在标准里,元数据属性都罗列了几十个,我们在实际工作中用不到这么多。

 

单是元数据生命周期的状态,标准中就定义了首选、标准、合格、已记录、候选、未完成、失效、被替代、历史、应用这么多。

在做系统的时候,我们只需根据实际情况进行选择即可。

业内案例-快手元数据管理

概念弄清楚了,标准也有了,接下来的任务就是参(chao)考(ta)一(zuo)下(ye)了

我手上正好有一个行业案例《快手元数据平台化建设及应用场景》,你看看这写的:多么诱人啊?

不要太爽了!我给你截图自己看:

从上图可以看出,他们主要抽象出了实体、属性和关系以及唯一ID四部分内容。

快手把主数据分为四类:基础、安全、资产和衍生元数据。

他们直接从大数据组件、各个管理系统和数据平台中自动接入元数据,然后进行解析、同步,并转换成标准定义,把基础信息存入关系型数据库,把关系存到图数据库,并提供查询和分析服务。

最后,还基于这些元数据做了一系列的数据应用,什么数据地图、指标模型管理、资产管理等。

这里还给出了几个元数据应用的例子:

比如上面这个找数的应用。当我们的表和字段多到一定程度,找到合适的数就变得非常非常困难了。因为会有大量的类似的表和字段充斥在数据库里,你根本无法确定应该用哪个。

但是如果有元数据就好办多了,你只需要确定好概念,后面一系列的库、表、字段,就自然会带出来了

相关文章
|
2月前
|
存储 测试技术 Apache
Apache Hudi 元数据字段揭秘
Apache Hudi 元数据字段揭秘
96 1
|
Oracle 关系型数据库 MySQL
数据库之-元数据 DatabaseMetaData 初学(二)
数据库之-元数据 DatabaseMetaData 初学(二)
133 0
|
2月前
|
关系型数据库 MySQL PHP
MySQL基础知识之【元数据】
MySQL基础知识之【元数据】
52 1
|
7月前
|
Kubernetes Cloud Native API
k8s如何访问 pod 元数据
k8s如何访问 pod 元数据
|
8月前
|
分布式计算 数据管理 Hadoop
NameNode元数据
NameNode元数据
72 0
|
11月前
|
存储 JavaScript 安全
什么是数据、元数据、主数据和参考数据?
什么是数据、元数据、主数据和参考数据?
|
存储 SQL 关系型数据库
|
存储 JSON 缓存
K8s日志组件-Loki是如何存储数据的?
日志记录本质上是一个事件。大多数语言、应用程序框架或库都支持日志,表现形式可以是字符串这样原始的非结构化数据,也可以是JSON等半结构化数据。开发者可以通过日志来分析应用的执行状况,报错信息,分析性能…… 正因为日志极其灵活,生成非常容易,没有一个统一的结构,所以它的体量也是最大的。
464 0
|
Oracle 关系型数据库 MySQL
数据库之-元数据 DatabaseMetaData 初学(一)
数据库之-元数据 DatabaseMetaData 初学(一)
113 0
|
存储 机器学习/深度学习 缓存
HDFS的元数据和数据块管理
介绍Hadoop文件系统(HDFS)的元数据和数据块管理
331 0