开发者社区> 问答> 正文

数据仓库中 DWM 轻度汇总层是什么?

数据仓库中 DWM 轻度汇总层是什么?

展开
收起
游客qzzytmszf3zhq 2021-12-06 17:54:38 1157 0
1 条回答
写回答
取消 提交回答
  • 概念:轻度汇总层数据仓库中DWD层和DM层之间的一个过渡层次,是对DWD层的生产数据进行轻度综合和汇总统计(可以把复杂的清洗,处理包含,如根据PV日志生成的会话数据)。轻度综合层与DWD的主要区别在于二者的应用领域不同,DWD的数据来源于生产型系统,并未满意一些不可预见的需求而进行沉淀;轻度综合层则面向分析型应用进行细粒度的统计和沉淀 数据生成方式:由明细层按照一定的业务需求生成轻度汇总表。明细层需要复杂清洗的数据和需要MR处理的数据也经过处理后接入到轻度汇总层。 日志存储方式:内表,parquet文件格式。 日志删除方式:长久存储。 表schema:一般按天创建分区,没有时间概念的按具体业务选择分区字段。 库与表命名。库名:dwb,表名:初步考虑格式为:dwb日期业务表名,待定。 旧数据更新方式:直接覆盖

    2021-12-06 17:54:55
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
MaxCompute数据仓库数据转换实践 立即下载
AnalyticDB-快数据时代的实时数据仓库技术内幕 立即下载
AnalyticDB 快数据时代的实时数据仓库技术内幕 立即下载