开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

流批一体实时数仓阶段小迈数仓如何呈现?

已解决

流批一体实时数仓阶段小迈数仓如何呈现?

展开
收起
游客lmkkns5ck6auu 2022-08-29 21:47:07 358 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    流批一体实时数仓(引入 Hologres+Flink) 为了更好的解决业务诉求,第三阶段在原有基础上引入了阿里云的 Hologres 和Flink,并由 Hologres 替换某 DB,搭建了流批一体的实时数仓。主要数据链路如下:

    • 日志数据和业务数据 Kafka 通过 DataWorks 实时同步写入 MaxCompute,实 时落地 ODS 层;对于数据时效性要求较高的业务,直接写入 Flink,Flink 里面 进行实时 ETL 处理,然后写入 Hologres;

    • 三方数据则是通过 DataWorks 离线同步至 MaxCompute,在 MaxCompute 中 进行数仓分层(ODS、DWD、DWS、ADS)建设,并将处理好的数据直接写入 Hologres;

    • 由 Hologres 存储实时和离线数据,并直接对接上层应用,承载业务系统的多种 查询要求,实现流批一体的实时数仓。

    以上内容摘自《大数据&AI实战派 第1期》电子书,点击https://developer.aliyun.com/ebook/download/7722 可下载完整版

    2022-08-30 12:42:01
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
基于云原生数据仓库AnalyticDB PG的最佳实践 立即下载
新氧云原生全栈数仓最佳实践 立即下载
离线实时一体化数仓与湖仓一体—云原生大数据平台的持续演进 立即下载