开发者社区 > 大数据与机器学习 > 实时数仓 Hologres > 正文

Hologres的mc 离线数据 和 Flink 的实时数据合并有好的方案吗?

Hologres的mc 离线数据 和 Flink 的实时数据合并有好的方案吗, 还有 mc 同步 holo 有增量方案吗?

展开
收起
真的很搞笑 2023-12-10 18:06:49 70 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Hologres与Flink可以深度集成,实现实时数据合并。首先,Flink将数据源写入Hologres,形成ODS层。然后,Flink订阅ODS层的Binlog进行加工,形成DWD层再次写入Hologres。接着,Flink订阅DWD层的Binlog,通过计算形成DWS层,再次写入Hologres。这种方式的优势在于它解决了传统实时数仓解决方案的中间层数据不易查、不易更新、不易修正的问题,并且每一层数据都可单独对外提供服务,数据的高效复用,真正实现了数仓分层复用的目标。此外,无论是实时数据还是离线数据接入Hologres之后,都能使用Hologres对数据进行分析。

    对于Hologres mc的同步增量方案,你可以选择全量同步或增量同步。如果你需要进行一次性全量或周期性全量同步,你需要勾选全量同步。如果你需要进行一次性增量或周期性增量同步,你需要勾选增量同步。此外,还支持先进行全量数据迁移,然后再实时同步增量数据至目标端,以及单独进行实时增量数据同步。在同步过程中,需要注意MaxCompute的分区与Hologres无强映射关系,MaxCompute的分区字段映射至Hologres为普通字段。

    2023-12-11 13:10:00
    赞同 展开评论 打赏

本技术圈将为大家分析有关阿里云产品Hologres的最新产品动态、技术解读等,也欢迎大家加入钉钉群--实时数仓Hologres交流群32314975

相关产品

  • 实时数仓 Hologres
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载