数据中台建设方法论实践之数据架构演变案例

本文涉及的产品
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 最近十年,随着互联网、物联网、人工智能的新发展,大数据技术开始兴起,为了让政府机构和企业能够更加灵活高效地使用自己的数据,将数据分析和挖掘出来的结果应用在企业的决策、营销、管理等各个方面,让数据产生更多的价值,其实是需要一整套体系作支撑的,其中数据架构就是支撑的重要一环

数据中台解决方案包含:数据中台建设方法论、相关技术体系和工具、数据体系等几大部分构成,前文介绍了数据建设方法论中的数据仓库建设和技术选型,本文将介绍一个典型的数据架构演变的实例。

最近十年,随着互联网、物联网、人工智能的新发展,大数据技术开始兴起,为了让政府机构和企业能够更加灵活高效地使用自己的数据,将数据分析和挖掘出来的结果应用在企业的决策、营销、管理等各个方面,让数据产生更多的价值,其实是需要一整套体系作支撑的,其中数据架构就是支撑的重要一环

同时因为Google等互联网公司的成果,Apache基金会的努力研发和推广,目前的共识是,技术架构的搭建以借助众多开源技术组件为主流。

下面以某地产公司为例,该地产公司的核心业务是房地产销售,随着业务的扩大,决策层有了业务和财务指标查看的需求,部分高层出现了数据分析的需求

一. 第一阶段(2004年~2010年)
2010年前主要为高层提供核心指标和报表查看,对结果的并发性能需求较低,基本没有复杂的多维分析需求,仅需要把结果集后台计算出来后放进MySQL即可,指标和报表系统做展示。

D23B3594-61F4-4CC6-8F4E-704288772945.png

这种架构的优点是技术栈迁移顺滑,维护简单,成本较低。缺点就是性能存在瓶颈,扩展性较差。

二. 第二阶段(2012年~2014年)
业务发展迅速,高层需要查看的指标不断增加,是2010年的10倍以上,并且有了专门的数据分析团队,经常频繁的做数据分析,某些数据达到了亿级别,同时对可用性也有了更高的要求。面对性能和可用性的新需求,数据架构整体而言需要做升级。
C1E7E506-B04D-48C5-9FE9-4F2FB2D41DB4.png

这种架构的优点是相比第一种情况,性能大幅提升,面向不同场景选择Oracle或者Greenplum方案,缺点就是分布式扩展能力仍然有限,复杂处理需求无法满足。

三. 第三阶段(2014年~2016年)
公司除了房地产销售业务,也介入了物业和租赁业务,业务产生的数据量增加了,而且数据形态越来越复杂,原有的架构成本越来越高,性能也逐渐满足不了需求,高层决定采用逐步成熟的大数据技术构建整套数据架构,但是要求逐步替换,不能影响当前业务。
321DEB93-8D02-4788-BACE-0EE6134FB9E8.png

这种架构的优点是计算性能大幅提升,支持平滑扩展,复杂数据处理能力大幅提升,缺点就是大数据系统维护成本较高。

四. 第四阶段(2016年~)
房地产、物业和租赁业务规模继续发展,大数据技术在前期的使用中被证明能提升性能和降低成本,因此高层决定全面采纳基于大数据技术的架构,同时大幅提升数据分析师更精细化数据分析的能力,更好的反哺业务。

C73AD21A-0BB2-4116-8B11-1D9F350DD9D7.png

这种架构的优点是面向大规模数据处理的性能大幅提升,复杂数据处理能力大幅提升,数据不需要复制,缺点就是大数据系统维护成本较高。

相关实践学习
阿里云百炼xAnalyticDB PostgreSQL构建AIGC应用
通过该实验体验在阿里云百炼中构建企业专属知识库构建及应用全流程。同时体验使用ADB-PG向量检索引擎提供专属安全存储,保障企业数据隐私安全。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
目录
相关文章
|
10天前
|
弹性计算 Java 关系型数据库
Web应用上云经典架构实践教学
Web应用上云经典架构实践教学
Web应用上云经典架构实践教学
|
11天前
|
数据采集 监控 搜索推荐
商业案例 I 数据中台用户场景案例
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
|
25天前
|
运维 监控 Java
后端开发中的微服务架构实践与挑战####
在数字化转型加速的今天,微服务架构凭借其高度的灵活性、可扩展性和可维护性,成为众多企业后端系统构建的首选方案。本文深入探讨了微服务架构的核心概念、实施步骤、关键技术考量以及面临的主要挑战,旨在为开发者提供一份实用的实践指南。通过案例分析,揭示微服务在实际项目中的应用效果,并针对常见问题提出解决策略,帮助读者更好地理解和应对微服务架构带来的复杂性与机遇。 ####
|
25天前
|
算法 NoSQL Java
微服务架构下的接口限流策略与实践#### 一、
本文旨在探讨微服务架构下,面对高并发请求时如何有效实施接口限流策略,以保障系统稳定性和服务质量。不同于传统的摘要概述,本文将从实际应用场景出发,深入剖析几种主流的限流算法(如令牌桶、漏桶及固定窗口计数器等),通过对比分析它们的优缺点,并结合具体案例,展示如何在Spring Cloud Gateway中集成自定义限流方案,实现动态限流规则调整,为读者提供一套可落地的实践指南。 #### 二、
48 3
|
24天前
|
消息中间件 运维 安全
后端开发中的微服务架构实践与挑战####
在数字化转型的浪潮中,微服务架构凭借其高度的灵活性和可扩展性,成为众多企业重构后端系统的首选方案。本文将深入探讨微服务的核心概念、设计原则、关键技术选型及在实际项目实施过程中面临的挑战与解决方案,旨在为开发者提供一套实用的微服务架构落地指南。我们将从理论框架出发,逐步深入至技术细节,最终通过案例分析,揭示如何在复杂业务场景下有效应用微服务,提升系统的整体性能与稳定性。 ####
36 1
|
25天前
|
监控 安全 持续交付
构建高效微服务架构:策略与实践####
在数字化转型的浪潮中,微服务架构凭借其高度解耦、灵活扩展和易于维护的特点,成为现代企业应用开发的首选。本文深入探讨了构建高效微服务架构的关键策略与实战经验,从服务拆分的艺术到通信机制的选择,再到容器化部署与持续集成/持续部署(CI/CD)的实践,旨在为开发者提供一套全面的微服务设计与实现指南。通过具体案例分析,揭示如何避免常见陷阱,优化系统性能,确保系统的高可用性与可扩展性,助力企业在复杂多变的市场环境中保持竞争力。 ####
41 2
|
25天前
|
消息中间件 运维 API
后端开发中的微服务架构实践####
本文深入探讨了微服务架构在后端开发中的应用,从其定义、优势到实际案例分析,全面解析了如何有效实施微服务以提升系统的可维护性、扩展性和灵活性。不同于传统摘要的概述性质,本摘要旨在激发读者对微服务架构深度探索的兴趣,通过提出问题而非直接给出答案的方式,引导读者深入
44 1
|
23天前
|
Cloud Native API 持续交付
云原生架构下的微服务治理策略与实践####
本文旨在探讨云原生环境下微服务架构的治理策略,通过分析当前面临的挑战,提出一系列实用的解决方案。我们将深入讨论如何利用容器化、服务网格(Service Mesh)等先进技术手段,提升微服务系统的可管理性、可扩展性和容错能力。此外,还将分享一些来自一线项目的经验教训,帮助读者更好地理解和应用这些理论到实际工作中去。 ####
37 0
|
7月前
|
Shell Android开发
Android系统 adb shell push/pull 禁止特定文件
Android系统 adb shell push/pull 禁止特定文件
613 1
|
7月前
|
Android开发 Python
Python封装ADB获取Android设备wifi地址的方法
Python封装ADB获取Android设备wifi地址的方法
170 0