【DBMS 数据库管理系统】数据仓库 数据组织 ( 数据组织级别 | 元数据 | 粒度 | 分割 | 数据组织形式 )(一)

简介: 【DBMS 数据库管理系统】数据仓库 数据组织 ( 数据组织级别 | 元数据 | 粒度 | 分割 | 数据组织形式 )(一)

一、数据仓库中的 数据组织级别


数据仓库中的数据组织 级别 : 下面 细节程度 由低到高 逐一解析 ;


早期细节级别数据 : 之前的一段时间的历史数据 ;

当前细节级别数据 : 最近阶段的历史数据 ;

轻度综合级别数据 : 以 天 , 星期 , 月 , 为时间单位综合数据 ;

高度综合级别数据 : 以 季度 , 年 , 为时间单位综合数据 ;


引入 “力度” 概念 : 上述介绍的 数据的不同的综合级别 , 称为力度 ;


力度效果 : 力度越大 , 细节成都越低 , 综合程度越高 ;

级别划分 : 数据的综合级别的划分 , 是根据力度进行划分的 ;


数据仓库中的数据组织 涉及概念 : 粒度 与 分割 , 数据仓库数据组织形式 , 数据仓库数据追加 ;






二、数据仓库中的 元数据


元数据 ( MetaData ) :


概念 : 关于 “数据” 的 数据 ;

数据库 -> 数据仓库 : 从 操作型环境 向 数据仓库环境 转换 , 建立的元数据 ; 包含 元数据项名 , 属性 , 属性在数据仓库中的转换 ;

数据仓库 -> 前端应用 映射 : 多维数据模型 与 前端工具 之间建立的映射 , 该映射相关的数据 是 元数据 ;





三、粒度 ( 根据 数据综合程度 划分粒度 )


根据 “数据综合程度” 划分粒度 : “粒度” 是对 数据仓库 中的数据 的 综合程度高低 进行的度量 ;


粒度与综合 : 粒度越小 , 数据细节程度越高 , 数据的综合程度越低 ;

多粒度查询 : 数据仓库中一般查询是多粒度查询 , 不同的粒度 , 能回答不同的查询 ;


不同粒度查询举例 : 粒度大小影响数据库查询的效率 ;


细节查询 : 如果要查询 A AA 是否在昨天下午 3 33 点给 B BB 打过电话 , 此时应该直接查询该时间点的数据 ;


以 “年” 为粒度查询 : 如果要查询 A AA 去年通话时间 , 就需要查询以 “年” 为单位的通话数据 ;


以 “十年” 为粒度查询 : 如果要预测 A AA 未来几年的通话时间 , 就需查询 A AA 所有的通话数据记录 , 然后做出预测 ;






四、粒度 ( 根据 样本采样率 划分粒度 )


根据 “采样率高低” 划分粒度 :


样本数据库 : 以 一定的采样率 从 细节数据 / 轻度综合数据 中抽取出的 数据子集 , 称为样本数据库 ;

样本数据库 “作用” : 使用该 数据子集 进行 模拟分析 ;

抽象方式 : 随机抽取 ;


"样本数据库" 优点 :


效率 : 查询分析 效率 高 ;

降低数据量 : 如果源数据的数据量很大 , 抽样数据的量可以降低 ;

准确度高 : 分析结果的误差很小 , 准确度高 ;

主要因素 : 这种分析方式 , 有助于抓住 主要因素 , 主要矛盾 ;


两种形式的 “粒度” 举例 : “商品” 主题 ;


时间段上信息综合粒度 : 销售综合表 , 采购综合表 , 是 根据 “数据综合程度” 划分的粒度 ;

不同时间点的采样粒度 : 库存信息表 , 是 根据 “采样率高低” 划分的粒度 ;




目录
相关文章
|
存储 JSON 关系型数据库
【干货满满】解密 API 数据解析:从 JSON 到数据库存储的完整流程
本文详解电商API开发中JSON数据解析与数据库存储的全流程,涵盖数据提取、清洗、转换及优化策略,结合Python实战代码与主流数据库方案,助开发者构建高效、可靠的数据处理管道。
|
存储 数据管理 数据库
数据字典是什么?和数据库、数据仓库有什么关系?
在数据处理中,你是否常困惑于字段含义、指标计算或数据来源?数据字典正是解答这些问题的关键工具,它清晰定义数据的名称、类型、来源、计算方式等,服务于开发者、分析师和数据管理者。本文详解数据字典的定义、组成及其与数据库、数据仓库的关系,助你夯实数据基础。
数据字典是什么?和数据库、数据仓库有什么关系?
|
12月前
|
数据采集 关系型数据库 MySQL
python爬取数据存入数据库
Python爬虫结合Scrapy与SQLAlchemy,实现高效数据采集并存入MySQL/PostgreSQL/SQLite。通过ORM映射、连接池优化与批量提交,支持百万级数据高速写入,具备良好的可扩展性与稳定性。
|
人工智能 Java 关系型数据库
使用数据连接池进行数据库操作
使用数据连接池进行数据库操作
292 11
|
存储 关系型数据库 数据库
【赵渝强老师】PostgreSQL数据库的WAL日志与数据写入的过程
PostgreSQL中的WAL(预写日志)是保证数据完整性的关键技术。在数据修改前,系统会先将日志写入WAL,确保宕机时可通过日志恢复数据。它减少了磁盘I/O,提升了性能,并支持手动切换日志文件。WAL文件默认存储在pg_wal目录下,采用16进制命名规则。此外,PostgreSQL提供pg_waldump工具解析日志内容。
1160 0
|
存储 SQL Java
数据存储使用文件还是数据库,哪个更合适?
数据库和文件系统各有优劣:数据库读写性能较低、结构 rigid,但具备计算能力和数据一致性保障;文件系统灵活易管理、读写高效,但缺乏计算能力且无法保证一致性。针对仅需高效存储与灵活管理的场景,文件系统更优,但其计算短板可通过开源工具 SPL(Structured Process Language)弥补。SPL 提供独立计算语法及高性能文件格式(如集文件、组表),支持复杂计算与多源混合查询,甚至可替代数据仓库。此外,SPL 易集成、支持热切换,大幅提升开发运维效率,是后数据库时代文件存储的理想补充方案。
|
缓存 关系型数据库 BI
使用MYSQL Report分析数据库性能(下)
使用MYSQL Report分析数据库性能
680 158
|
关系型数据库 MySQL 数据库
自建数据库如何迁移至RDS MySQL实例
数据库迁移是一项复杂且耗时的工程,需考虑数据安全、完整性及业务中断影响。使用阿里云数据传输服务DTS,可快速、平滑完成迁移任务,将应用停机时间降至分钟级。您还可通过全量备份自建数据库并恢复至RDS MySQL实例,实现间接迁移上云。
|
关系型数据库 MySQL 数据库
阿里云数据库RDS费用价格:MySQL、SQL Server、PostgreSQL和MariaDB引擎收费标准
阿里云RDS数据库支持MySQL、SQL Server、PostgreSQL、MariaDB,多种引擎优惠上线!MySQL倚天版88元/年,SQL Server 2核4G仅299元/年,PostgreSQL 227元/年起。高可用、可弹性伸缩,安全稳定。详情见官网活动页。
1802 152

热门文章

最新文章