谈谈我的数据仓库经历

简介:

目前还是大数据的时代,传统的数据仓库早就跟不上大数据的发展。还记得初入数据仓库这行时,那时候的用的还是oracle+obiee。数据量大到上千万的时候,前端完全加载不出来。而且那时候的数仓设计,由于数据仓库用的oracle,费用比较贵,所以尽量的用时间换空间,前端会存在很多维表和事实表的关联,甚至有些计算都会放到前端计算。这样就导致用户体验非常差。后面hadoop起来了,分布式的数据仓库很好的顺应了大数据的时代要求,用空间换时间和用户体验,所以基本上计算逻辑都由后台计算了,前端只是表对表的加载而已。所以,目前市面上的各种维度建模都大同小异,无非都是ODS保留贴源数据,DW层会划分为两个细分层级,一个是明细,用来清洗数据,一个是汇总数据,用来过滤口径等,最后还有一个DM层(有些厂可能不这么叫),这一层主要是面向应用,包括可视化,大屏,移动端等等。不知道你们所在的公司,数据仓库,在数仓模型这块有什么不同呢?欢迎留言讨论!!!

相关文章
|
存储 数据采集 监控
【2022持续更新】大数据最全知识点整理-数据仓库篇
【2022持续更新】大数据最全知识点整理-数据仓库篇
1707 0
【2022持续更新】大数据最全知识点整理-数据仓库篇
|
7月前
|
分布式计算 大数据 Hadoop
数据仓库(13)大数据数仓经典最值得阅读书籍推荐
从事数仓工作,在工作学习过程也看了很多数据仓库方面的数据,此处整理了数仓中经典的,或者值得阅读的书籍,推荐给大家一下,希望能帮助到大家。建议收藏起来,后续有新的书籍清单会更新到这里。
601 2
数据仓库(13)大数据数仓经典最值得阅读书籍推荐
|
7月前
|
存储 数据采集 数据挖掘
【软件设计师备考 专题 】数据仓库和分布式数据库基础知识
【软件设计师备考 专题 】数据仓库和分布式数据库基础知识
264 0
|
存储 SQL 关系型数据库
细谈数据仓库
细谈数据仓库
149 1
|
存储 数据挖掘 大数据
第16章 数据仓库与联机分析处理技术——复习笔记
第16章 数据仓库与联机分析处理技术——复习笔记
|
存储 架构师 NoSQL
一口气讲完数据仓建模方法--数据仓库架构师碎碎念
一口气讲完数据仓建模方法--数据仓库架构师碎碎念
|
存储 数据采集 大数据
数据仓库面试知识总结
数据仓库面试知识总结
数据仓库面试知识总结
|
存储 SQL 数据挖掘
大数据时代,数据仓库究竟是干嘛的?
大数据时代,数据仓库究竟是干嘛的?
278 0
大数据时代,数据仓库究竟是干嘛的?
|
存储 数据采集 敏捷开发
DMBOK 读书笔记系列 数据仓库和商务智能
数据仓库赋能组织将不同来源的数据整合到公共的数据模型中去,整合后的数据能为业务运营提供洞察,为企业决策支持和创造组织价值开辟新的可能性。
DMBOK 读书笔记系列 数据仓库和商务智能
下一篇
无影云桌面