开发者社区> 问答> 正文

小米APP近实时数仓的架构中,日志数据是如何处理的?

小米APP近实时数仓的架构中,日志数据是如何处理的?

展开
收起
不吃核桃 2024-08-19 14:45:24 29 0
1 条回答
写回答
取消 提交回答
  • 在小米APP近实时数仓的架构中,日志数据首先通过采集日志模块统一收集到消息队列中。然后,使用Flink SQL对日志数据进行实时消费和处理,经过DWD和DM层后,最终写入到Iceberg v2表中。由于只处理日志数据,因此只使用了Iceberg v1表的部分功能。
    image.png

    2024-08-19 20:08:49
    赞同 7 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
基于云原生数据仓库AnalyticDB PG的最佳实践 立即下载
新氧云原生全栈数仓最佳实践 立即下载
离线实时一体化数仓与湖仓一体—云原生大数据平台的持续演进 立即下载