谈谈如何跨越数据架构的漩涡

简介: 如果让当前数据工程领域的人绘制一个“现代”数据架构,几乎肯定会得到如下结果:

如果让当前数据工程领域的人绘制一个“现代”数据架构,几乎肯定会得到如下结果:

183a1f03f0a02a3965f2ab8cbb0be7bc.png

这样的数据架构格局反映了基于系统的架构设计方法。这种基于系统的架构有何现代感?它已经存在了将近 10 年,并且没有太大变化。该架构由三个主要组件组成:数据仓库、数据湖和数据集市(或服务层)。


首先是数据仓库。之所以需要拥有独立的数据集市和数据湖,是因为那些传统的数据仓库无法扩展以满足置于其上的不同的、相互竞争的应用场景。数据集市的出现是因为中央数据仓库无法扩展以满足最终用户的不同应用和高并发需求。然后是数据湖,因为企业数据仓库无法存储和处理大数据(在数量、种类和速度方面)。


创建数据湖和数据集市是为了满足当时数据工程领域的实际需求。即使在今天,数据仓库仍然无法支持企业的所有不同应用。即使对于较新的云数据仓库也是如此。这些不同的数据系统导致了孤立的数据,这对于企业从中获取商业价值和安全治理具有非常大的挑战。


用不同的方式思考数据


为了优化数据架构,我们需要停止根据现有类型的系统来思考数据,例如遗留数据仓库、数据集市和数据湖。这样做没有帮助,而且会在企业数据环境中引入人为的边界。


以下是关于如何以不同方式思考数据的建议。在较高级别,可以将所有企业数据分组到以下逻辑数据区域:

2e76345fe6a754c4cc7436573499c2a8.png

因此,让我们开始按照这样的区域而不是系统来考虑数据。旧的基于系统的思维将继续让数据工程专业人员陷入旧的做事方式,并将继续分裂数据格局。采用新的思维模式,无需将数据区域划分为不同的孤立数据系统,例如:

f204b4c2fccfc6a6924b62f4cc9ab818.png

当像单一平台可以打破这些孤岛时,为什么还要用以前的思路思考呢?我们不应考虑系统问题,而应考虑为所有企业数据建立一个单一平台,例如

bdc8b814991c77c2b6bb5d80dd23a5e8.png

构建企业统一的数据平台


我们通常使用多个名称来标识数据的位置和使用方式,包括操作数据存储 (ODS)、企业信息工厂 (CIF)、数据仓库、数据集市等等。每个术语代表在企业内对数据进行分组的不同方式。但不幸的是,今天那些不同的数据组代表了不同的数据系统。让我们开始根据区域(或数据类型)而不是系统来考虑数据。


企业数据架构的目标绝不是将数据格局拆分为多个不同的系统,特别是拆分为数据仓库、数据集市和数据湖。我们需要停止做一些事情,因为“他们总是那样做”,并重新思考我们正在努力完成的事情。我们的目标应该是为企业的所有数据建立一个统一的平台,例如,如下所示:

d2cd0e99719cdb18c9966dc7f68c25c0.png

这样的数据平台可以支持所有的数据仓库、数据湖、数据工程、数据交换、数据应用程序和数据科学的应用场景,我们可以将数据仓库、数据集市和数据湖整合到一个平台中。


大多数“云”数据仓库都是 20 多年前设计的,并且已经迁移到云端。他们无法真正利用云的可扩展性。而那些最近设计的系统不提供完整的企业数据管理体验,提供治理、符合 ACID 的交易、实时数据共享、完全托管服务等。现在是时候开始以不同的方式思考我们的数据了。

相关实践学习
使用CLup和iSCSI共享盘快速体验PolarDB for PostgtreSQL
在Clup云管控平台中快速体验创建与管理在iSCSI共享盘上的PolarDB for PostgtreSQL。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
相关文章
|
存储 架构师 数据可视化
一文弄懂数据架构和信息架构的区别
我们经常会听到关于数据架构和信息架构的讨论,它们是一回事吗?让我们看看数据和信息之间的区别,以及组织需要考虑的关键事项。
一文弄懂数据架构和信息架构的区别
|
6天前
|
SQL 机器学习/深度学习 存储
数据库设计革命:逻辑模型的演变与面向对象的突破
数据库设计革命:逻辑模型的演变与面向对象的突破
16 1
|
6月前
|
存储 缓存 NoSQL
概念、场景技术方案选择的理解
概念、场景技术方案选择的理解
28 0
|
XML 设计模式 JSON
领域驱动设计总结——如何设计大型系统
本文为领域驱动设计系列总结的第五篇,主要对领域驱动设计概念做个介绍,本系列领域驱动设计总结主要是在Eric Evans 所编写的《领域驱动设计》 一书的基础上进行归纳和总结。本文主要介绍在领域驱动设计中如何设计大型系统。
157 0
|
存储 消息中间件 监控
大型系统应用边界设计原则与实践
大型系统应用边界设计原则与实践
大型系统应用边界设计原则与实践
|
数据采集 存储 监控
谈谈对数据架构的几点认识
随着业务和数据环境的变化,组织的数据架构需要能够跟上这些变化的步伐。它需要具有响应能力,以便不仅确保组织继续有效运作,而且支持组织的整体战略方向。
谈谈对数据架构的几点认识
|
数据采集 存储 人工智能
谈谈成功数据架构的七大特点和三大关键要素
数据是一件大事,几乎所有行业都在竞相利用数据获取更多利润。商界领袖想知道如何在不被淹没的情况下潜入大数据池。
|
数据采集 运维 监控
谈谈典型的数据治理体系框架
以规范的方式来管理企业的数据资产已经被广泛接受和认可,但还需要组织架构、原则、过程和规则,以确保数据管理的各项职能得到正确的履行。
谈谈典型的数据治理体系框架
|
数据采集 自然语言处理 算法
谈谈大型集团如何构建全域一致性数据模型
数据建模包括概念模型、逻辑模型、物理模型。企业级数据模型设计通常有两种方法:自上而下和自下而上。
谈谈大型集团如何构建全域一致性数据模型
|
Java 数据库
架构视角-到底如何做好分层
在进行程序开发和设计时我们常常提到分层的概念,但是怎么样的分层才是好的分层呢,这篇谈谈在如何分层这个问题上的一些体会,和大家探讨一下
137 0
架构视角-到底如何做好分层