开发者社区> 问答> 正文

在实时数仓建设过程中,遇到了哪些主要问题?

在实时数仓建设过程中,遇到了哪些主要问题?

展开
收起
真的很搞笑 2024-07-22 22:36:42 25 0
1 条回答
写回答
取消 提交回答
  • "在实时数仓建设过程中,遇到了以下主要问题:

    将离线任务转为实时计算任务后,由于计算逻辑复杂(如多流JOIN、去重),导致作业状态过大,出现OOM异常或作业算子背压太大。
    维表Join过程中,明细流表与大维表Join时,维表数据过多,加载到内存后导致OOM,作业失败无法运行。
    Flink将流维表Join产生的多维明细数据写入ClickHouse时,无法保证Exactly-once,作业Failover时可能导致数据重复写入。
    image.png
    "

    2024-07-23 09:50:46
    赞同 2 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载