数据仓库的工作日记_创纪录的(一)

简介:

  在从事数据仓库几年传统产业(敢写了很多年),离etl发展做建筑师。

由于行业之间的关系的因素是。像银行,电信这些单位(一些体制问题,没有详细说明),这将有自己的IT系。 但IT盛,也就更不会招聘自己的项目团队,这也就养育了我天朝强大的外包事业,而我一直都是这外包大军中的一员。

  准备把文章分成几个主题来写,这个主题是用来记如今刚启动项目的工作笔记的,工作中的一些奇闻轶事就放到其它主题了。

  项目介绍:背景-某地方性商业银行;上线时间-n年前。系统结构-ods,dw,下游系统。

  ods层:源系统的映射层。与源系统同构。仅仅保留当期数据。之所以设计ods层,是为了将数据仓库系统与实时业务系统隔离开。在一些事业单位(朝九晚五从不加班办业务的单位,大家懂的)或类似的项目中,因为下班以后不再产生新的业务。因此数据仓库能够採取简单的形式,如oracle的dblink。在下班以后直接将数据抽取过来。

但像银行,通信这一类的企业。都是24时有业务处理的。直接去大批量地查询核心业务系统的数据,不仅会影响对方的处理效率,同一时候也不能保证数据的准确,这里所说的数据准确,是因为业务系统一直在处理业务,我们不能准确的获取当天24小时内的数据。ods(Operational Data Store)的功能也就体现出来了。当然,这仅仅是ods的一部分功能了

  dw层:轻度汇总层,依照主题汇总,保留历史数据。

在ods数据载入完毕后,dw层開始调度任务。只是,这个项目中的dw层就稍稍有点慘不忍睹了,主题是划分了,但仅仅是依照核心业务系统的表数据内容,大概的分了个类,与ods的表结构基本一样。仅仅是名字都换了。并非数据仓库中真正意义上的划分主题。

当然了,存在即有道理,这个dw层以拉链和当期快照还有全量的形式保存了历史数据。

  调度:有数据仓库就要有相关调度,这个项目中採用的是我国某中字开头公司的调度产品,这个产品,一个字烂。两个字恶心。三个字我艹了,但人家毕竟是产品!

由java来做应用界面。底层功能由shell来实现,详细的分析会在后面的文章中进行刨析。由于我立即就要优化这玩意了。

  讲完背景,下一篇将说明要做的工作。

  

版权声明:本文博主原创文章,博客,未经同意不得转载。







本文转自mfrbuaa博客园博客,原文链接:http://www.cnblogs.com/mfrbuaa/p/4886867.html,如需转载请自行联系原作者


相关文章
|
2月前
|
OLAP
云端问道5期-基于Hologres轻量高性能OLAP分析陪跑班获奖名单公布啦!
云端问道5期-基于Hologres轻量高性能OLAP分析陪跑班获奖名单公布啦!
418 3
|
2月前
|
数据采集 SQL DataWorks
【颠覆想象的数据巨匠】DataWorks——远超Excel的全能数据集成与管理平台:一场电商数据蜕变之旅的大揭秘!
【8月更文挑战第7天】随着大数据技术的发展,企业对数据处理的需求日益增长。DataWorks作为阿里云提供的数据集成与管理平台,为企业提供从数据采集、清洗、加工到应用的一站式解决方案。不同于桌面级工具如Excel,DataWorks具备强大的数据处理能力和丰富的功能集,支持大规模数据处理任务。本文通过电商平台案例,展示了如何使用DataWorks构建数据处理流程,包括多源数据接入、SQL任务实现数据采集、数据清洗加工以提高质量,以及利用分析工具挖掘数据价值的过程。这不仅凸显了DataWorks在大数据处理中的核心功能与优势,还展示了其相较于传统工具的高扩展性和灵活性。
98 0
|
11月前
|
SQL Cloud Native 关系型数据库
陈长城:NineData面向Doris实时数仓集成的技术实践
在刚刚过去的北京Doris Summit Asia 2023,玖章算术技术副总裁陈长城受邀参加并做了《NineData面向Doris实时数仓集成的技术实践》报告。
1081 1
|
11月前
|
SQL 存储 分布式数据库
美团增量数仓建设新进展
美团增量数仓建设新进展
148 0
|
存储 人工智能 数据挖掘
带你读《升舱 - 数据仓库升级交付标准白皮书》——1、行业趋势与困惑
带你读《升舱 - 数据仓库升级交付标准白皮书》——1、行业趋势与困惑
196 0
|
存储 传感器 SQL
谈谈数据资产理念下构数据湖的喜与忧
最近,数据湖成为大家关注的数据资产存储新架构,那么数据在现实中都有哪些应用场景呢,下面举几个典型的应用案例。
谈谈数据资产理念下构数据湖的喜与忧
|
存储 数据采集 敏捷开发
DMBOK 读书笔记系列 数据仓库和商务智能
数据仓库赋能组织将不同来源的数据整合到公共的数据模型中去,整合后的数据能为业务运营提供洞察,为企业决策支持和创造组织价值开辟新的可能性。
DMBOK 读书笔记系列 数据仓库和商务智能
|
存储 SQL Cloud Native
双11特刊 | 迎难而上,支撑350亿次在线查询的数据仓库是怎样炼成的?
阿里云数据库已连续多年稳定支撑天猫双11,历经极端流量场景淬炼。除了保障稳定顺滑的基本盘,今年大促期间数据库通过全面云原生化,大幅提升用户体验,让技术帮助业务产生更有价值的消费者体验,持续通过技术创新赋能用户,引领技术发展路径。 双11已圆满落幕,但技术的探索,仍未止步。 “阿里云数据库” 公众号特此推出《好科技的新起点——2021双11阿里云数据库技术揭秘》系列干货文章,为你讲述年度“技术大考”背后的故事,敬请关注!
542 1
双11特刊 | 迎难而上,支撑350亿次在线查询的数据仓库是怎样炼成的?
|
SQL 供应链 Oracle
数据仓库 | 从买菜这件小事来聊聊数据仓库
数据仓库 | 从买菜这件小事来聊聊数据仓库
漫画:通过炒菜大白话讲解数据仓库建设
漫画:通过炒菜大白话讲解数据仓库建设
漫画:通过炒菜大白话讲解数据仓库建设
下一篇
无影云桌面