开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

数据仓库的分层是什么?

已解决

数据仓库的分层是什么?

展开
收起
游客lmkkns5ck6auu 2022-08-17 10:30:22 485 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    数据仓库的分层模型,大体的思路和网上烂大街的数仓分层原则相似,总体分ODS、DW、RPT 三层。具体实践的过程中,根据我们的实际情况,慢慢形成了我们自己的风格。

    ODS 层,大部分是和数据源中的数据一模一样的,也有极少部分经过了简单的ETL、或者只截取了与统计有关的字段。数据已采用了其他备份方式,所以这里不再需要使用 MaxCompute 做冷备。

    DW 层是最核心的数据仓库层。由于公司技术正在朝着微服务转型,系统、数据库拆分得越来越细,对数据的统计分析很不利。所以我们依靠数据仓库层,将相关的数据放到一起,便于上层的开发、更有利于日常的临时数据需求的快速响应。数据仓库层的数据结构,不会随着微服务系统和数据的拆分而变化,让系统拆分对于这套离线数据分析的影响终结在这一层,不渗透到更上层。

    RPT 层的具体做法,市面上有很多种。根据我们的实际情况,决定采用按业务划分的方式。曾经我们也尝试过按数据产品划分,但是时间长了,出现了几个严重的问题。首先,不同数据产品中对于相同指标的定义混乱,导致各个部门对于数据没有一个统一的概念。其次,技术上的系统拆分的影响范围,随着数据产品的增多而大面积扩大,极易出现修改遗漏的现象。

    以上内容摘自《5天入门视觉AI》电子书,点击https://developer.aliyun.com/topic/download?id=31可下载完整版

    2022-08-17 16:09:13
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
基于阿里云MaxCompute构建企业云数据仓库CDW的最佳实践建议 立即下载
PostgresChina2018_陶征霖_新一代数据仓库OushuDB架构剖析 立即下载
MaxCompute数据仓库数据转换实践 立即下载