DWD 到 ADS 层的业务流程(商品统计)| 学习笔记

简介: 快速学习 DWD 到 ADS 层的业务流程(商品统计)

开发者学堂课程【阿里云实时数仓实战2:实时计算与结果输出DWD 到 ADS 层的业务流程(商品统计)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址https://developer.aliyun.com/learning/course/109/detail/1889


实时计算与结果输出

 

统计商品订单个数、订单金额

1111.png

源表在哪里?

一个是在 datahub 中的 dwd-paid-order-detail,另一张表是在 rds 中的维度表 dim-sku-info。

接下来就可以对两张表进行双流 join 聚合,聚合之后输出到 ADB 中并创建一张表叫 dws-sku-stat 结果表。

91.png

图中标红处为是将订单 id 随机打散,是一个优化的操作,防止数据倾斜。

中间部分是两张表的双流 join,上半部分商品表信息的 join,下面是商品维度表信息对应的 join。

一、创建业务流程:


控制台>新建任务>填写名称>切换到 SQL 模式

将源表维表信息复制粘贴,一定检查是否有问题

源表 RDS 地址一定要换成自己的内网地址

92.png

93.png

二、创建结果表:


要将结果写到 AnalyticDB 中,并且修改成自己的内网地址。以上

94.png

三、聚合源表和维表


首先创建视图(若不进行优化也可以),接下来将两张表进行 join 处理,拼接完成后,保存,点击执行计划,稍等片刻,对任务进行发布,自动配置执行计划:3cu(由于购买时只有6个 cu,前两个任务已使用 4cu,但剩下 2cu 对本任务运行不起来,所以停掉上一个任务)

95.png

96.png

点击运营界面,对任务进行启动,点击任务名称,等待图像成为流水形

97.png

返回结果表查看是否有数据,最后商品表和省份表都有对应的信息。

98.png

至此两个指标的结果,就都已经写入到 AnalyticDB 中,数据都已存储成功。

相关文章
数仓学习---11、数仓开发之DWS层
数仓学习---11、数仓开发之DWS层
|
4月前
|
DataWorks 安全 关系型数据库
DataWorks产品使用合集之删除dws层的数据会把dwd的数据删除掉吗
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
29 0
|
2月前
|
搜索推荐 定位技术
ads 明细表模型
【8月更文挑战第13天】
38 1
|
2月前
|
存储 监控 数据挖掘
ads 聚合表模型
【8月更文挑战第13天】
13 1
|
2月前
|
存储 SQL 数据采集
ads创建维度表详解
【8月更文挑战第12天】
35 2
|
2月前
|
存储 OLAP
ads选择表模型
【8月更文挑战第12天】
40 5
|
4月前
|
SQL 关系型数据库 MySQL
实时计算 Flink版产品使用问题之在进行DWS层的实时聚合计算时,遇到多次更新同一个字段的情况,该如何处理
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
5月前
|
存储 BI 关系型数据库
数仓学习---数仓开发之DWS层
数仓学习---数仓开发之DWS层
676 4
|
5月前
|
存储 SQL HIVE
金融审批数仓(离线)--DWD层、ADS层
金融审批数仓(离线)--DWD层、ADS层
189 4
|
存储 SQL 关系型数据库
[数据仓库]分层概念,ODS,DM,DWD,DWS,DIM的概念
ODS 全称是 Operational Data Store**,操作数据存储.“面向主题的”,数据运营层,也叫ODS层,是最接近数据源中数据的一层,数据源中的数据,经过抽取、洗净、传输,也就说传说中的 ETL 之后,装入本层。本层的数据,总体上大多是按照源头业务系统的分类方式而分类的。
2815 0
[数据仓库]分层概念,ODS,DM,DWD,DWS,DIM的概念