BIGO 大数据平台如何基于 Flink + ClickHouse 建设实时数仓？
已解决BIGO 大数据平台如何基于 Flink + ClickHouse 建设实时数仓？
展开
收起
1
条回答
写回答
写回答
-
推荐回答按照传统数据仓库的数据分层方法，将数据划分成 ODS、DWD、DWS、ADS 等四层数据： • ODS 层：基于用户的行为日志，业务日志等作为原始数据，存放于 Kafka/Pulsar 等消息队列中；
• DWD 层：这部分数据根据用户的 UserId 经过 Flink 任务进行聚合后，形成不同用户的行为明细数据，保存到 Kafka/Pulsar 中；
• DWS 层：用户行为明细的 Kafka 流表与用户 Hive/MySQL 维表进行流维表 JOIN，然后将 JOIN 之后产生的多维明细数据输出到 ClickHouse 表中；
• ADS 层：针对 ClickHouse 中多维明细数据按照不同维度进行汇总，然后应用于不同的业务中。
以上内容摘自《Apache Flink 案例集（2022版）》电子书，点击https://developer.aliyun.com/ebook/download/7718 可下载完整版
2022-08-31 12:46:02赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1444
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
195
在建行，数据通常来源于哪些？
534
大佬，Caused by: java.lang.ClassNotFoundException: or
511
Caused by: org.apache.kafka.common.errors.TimeoutE
3298
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1250
请问flink-connector-jdbc在sink时，如何设置批量写入？
3139
Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
592
Slot request bulk is not fulfillable，20以上job同时部署失败
750
Flink如何配置Task Manager？
659
展开全部
数据仓库介绍与实时数仓案例
42411
实时计算 Flink SQL 核心功能解密
19318
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27935
通过Flink实时构建搜索引擎的索引
17463
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23372
阿里云实时计算产品案例&解决方案汇总
27869
接着！！Apache Flink 全领域干货合集（持续更新）
16522
回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
14027
为什么说流处理即未来？
9977
基于实时计算（Flink）打造一个简单的实时推荐系统
14399
展开全部
