OneModel体系能给数据中台的建设带来什么?

简介: 作者:柯根 更多内容详见数据中台官网 https://dp.alibaba.com重要地位造成企业大数据建设的痛点原因,概括起来就是“烟囱式”开发造成数据不标准、不规范。所以数据中台建设的切入点需要以“数据公共层建设”消除因“烟囱式”开发给业务带来的困扰和造成的技术上的浪费。

作者:柯根 更多内容详见数据中台官网 https://dp.alibaba.com
重要地位
造成企业大数据建设的痛点原因,概括起来就是“烟囱式”开发造成数据不标准、不规范。所以数据中台建设的切入点需要以“数据公共层建设”消除因“烟囱式”开发给业务带来的困扰和造成的技术上的浪费。而OneModel方法论则是打开局面和推动数据中台建设的关键。
核心能力

  • 规范定义
    在业界中常用数据字典文档的方式维护标准规范定义,但是往往“计划很丰满,现实很骨感”,文档在项目实际实践过程中,很难保证及时维护,到最后往往变成无人问津的“空中楼阁”;并且文档与开发严重脱节,到最后形成“上有政策,下游对策”的混乱局面。

就算数据字典能及时维护并严格遵守,它也只能短暂缓解业务痛点,但只是治标,对技术痛点几乎无用。因此,必须从源头出发,找到可以同时解决业务痛点和技术痛点的方法,而全局规划和数据规范定义就是治本的方法。
OneModel方法论保障了数据唯一性的数据域、业务过程,以及在数据域、业务过程之下的指标、实体属性等的结构性封装、命名和定义。
数据规范定义是在开发之前,以业务的视角进行数据的统一和标准定义,确保计算口径一致、算法一致、命名一致,后续的数据模型设计和ETL开发都是在此基础上进行的。主要基于以下几部分内容:

  1. 基于对业务和数据的理解,对数据进行基于业务本身但超越和脱离业务需求限制的抽象。主要的抽象不随着业务团队的组织架构变动而变动,即抽象出业务板块、数据域、业务过程、维度。
  2. 基于以上抽象出的业务过程和维度,进一步定义原子指标、业务限定、计算周期、计算粒度。
  3. 基于定义的原子指标、业务限定、计算周期、计算粒度,可结构化定义出派生指标,并继承原子指标的数据类型、算法,并形成标准化的派生指标名称定义。
  4. 通过数据中台不断的迭代优化,积累大量统一、标准的指标。
  • 模型设计
    在数据模型设计中,OneModel方法论保障模型复用和稳定的数据基础层、数据中间层、数据应用层分层架构设计,以及各层模型设计的核心原则。

数据模型设计在数据规范定义的基础上,从业务应用或者需求来源端控制了数据模型设计的重要输入源头。其次,对数据模型严格分层,在统一数据公共层的同时允许数据应用层百花齐放。第三,从业务和技术双视角下,严格要求数据模型设计满足“高内聚、低耦合”的标准。

  • 数据开发
    在ETL开发中,开发过程遵循标准有效的开发规范,并将以往ETL开发人员所积累的经验做沉淀。

工具沉淀
仅仅有方法论是远远不够的,很多企业不乏拥有业界通用方法论以及成型的数据模型。但往往发现若没有产品做支撑,方法论落地存在很大的困难。需要有足够多建模经验丰富的模型架构师、经验丰富的数据研发工程师,以及要在企业内部对方法论达成绝对的一致。这对于有一定规模的企业来说都是很难实现的。
因此阿里巴巴云上数据中台团队基于多年在集团内部的实战经验,将OneModel方法论沉淀到数据中台产品Dataphin中。
Dataphin通过OneModel方法论为指导,沉淀出一站式的规范、工具型数据产品,产品主要包括以下几部分:规范化数据建模,特别关注数据规范定义、数据模型设计和ETL开发等全流程;落地和承载规范化数据建模的规范化研发工具;规范化建模产生的所有分层数据模型;所有数据在面对应用时都会被监控和调度,且对上线、下线调优监控会反馈到规范化数据建模中。
将原先割裂的数据规范定义、数据模型设计、ETL开发连接在一期,实现“设计即开发,所建即所得”。将数据规范定义从工具层面的数据命名+结构化抽象定义合二为一,并与数据模型设计连接,进而直接支撑ETL开发。当数据规范定义完成之后,每一个指标都可以根据结构化命名规则和计算逻辑快速映射到对应的物理表中。
只要某个指标能够被规范定义,针对该指标的代码即可自动化生成,而一系列经过规范定义的指标则会根据相同计算粒度,聚集到若干物理表或逻辑表中,这样形成的物理表或逻辑表,其全部代码和自动化生成。对于中间生成过程不必关心,因为这是系统内部的智能黑盒要以智能化的方式来解决的。并且智能黑盒不仅实现代码自动化生成,还关心优化生成代码及其任务调度所对应的计算逻辑。
下图为Dataphin通过基于逻辑模型的数据规范定义、智能设计及智能研发(黑盒实现代码自动化及任务优化)、基于逻辑模型的主题式查询等特性,带来全新、高效、标准的一体化设计及开发的数据中台构建和使用模式。
image

结语:
阿里巴巴数据中台团队,致力于输出阿里云数据智能的最佳实践,助力每个企业建设自己的数据中台,进而共同实现新时代下的智能商业!
阿里巴巴数据中台解决方案,核心产品:
Dataphin,以阿里巴巴大数据核心方法论OneData为内核驱动,提供一站式数据构建与管理能力;
Quick BI,集阿里巴巴数据分析经验沉淀,提供一站式数据分析与展现能力;
Quick Audience,集阿里巴巴消费者洞察及营销经验,提供一站式人群圈选、洞察及营销投放能力,连接阿里巴巴商业,实现用户增长。
欢迎志同道合者一起成长!更多内容详见数据中台官网 https://dp.alibaba.com

相关实践学习
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
目录
相关文章
|
数据采集 运维 Java
有了 Dataphin v4.0,跨系统调度依赖再也不是难题
Dataphin v4.0引入了新的触发式节点,用于解决多数据平台间的调度问题。当上游系统(如Unix的crontab)完成数据采集后,可通过触发式节点通知Dataphin开始拉取数据,避免传统轮询方式的效率低和资源占用。触发式节点需满足Dataphin OpenAPI开通和网络连通条件,并通过SDK进行外部触发。示例展示了如何创建和使用触发式节点,以及使用Java SDK模拟触发请求。
900 0
|
6天前
|
Web App开发 数据采集 人工智能
|
11月前
|
数据采集 SQL 搜索推荐
大数据之路:阿里巴巴大数据实践——OneData数据中台体系
OneData是阿里巴巴内部实现数据整合与管理的方法体系与工具,旨在解决指标混乱、数据孤岛等问题。通过规范定义、模型设计与工具平台三层架构,实现数据标准化与高效开发,提升数据质量与应用效率。
3505 0
大数据之路:阿里巴巴大数据实践——OneData数据中台体系
|
人工智能 运维 网络协议
别只盯着ChatGPT!大模型也能帮你抓网络“鬼”
别只盯着ChatGPT!大模型也能帮你抓网络“鬼”
898 4
|
人工智能 JSON 运维
Dataphin MCP:让数据查询 “轻而易举”
Dataphin推出MCP服务,助力Agent高效获取数据,释放企业数据价值。
1047 10
|
Linux 网络虚拟化 Docker
新手向导:轻松掌握Docker搭建OpenVPN
OpenVPN 是一个开源的VPN软件包,支持多种操作系统和平台。它包含社区版(免费但需具备Linux命令
6153 2
|
消息中间件 存储 监控
|
SQL 存储 人工智能
Flink 在蚂蚁实时特征平台的深度应用
本文整理自蚂蚁集团高级技术专家赵亮星云,在 Flink Forward Asia 2023 AI 特征工程专场的分享。
2933 3
Flink 在蚂蚁实时特征平台的深度应用
|
存储 数据采集 DataWorks
2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
阿里巴巴一直将数据作为自己的核心资产与能力之一,从最早的淘宝、天猫等电商业务,到后续的优酷、高德、菜鸟等板块,DataWorks、MaxCompute、Hologres等产品用一套技术体系来支持不同业务的发展与创新,为企业带来整体的“数据繁荣”。 数据繁荣为我们带来了红利,同时也带动了各类数据治理需求的井喷,特别是降本等需求的不断出现,阿里云DataWorks团队将13年的产品建设经验整理成最佳实践,从数据生产规范性治理、数据生产稳定性治理、数据生产质量治理、数据应用提效治理、数据安全管控治理、数据成本治理、数据治理组织架构及文化建设等7个方面为大家揭秘数据治理平台建设实践
35634 15
2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
|
分布式计算
MapReduce中的Map和Reduce函数分别是什么作用?
MapReduce中的Map和Reduce函数分别是什么作用?
1300 0