开发者社区> 问答> 正文

Flink滑动窗口,windowsize几个小时,滑动步长几分钟,状态overlap比较#Flink

Flink滑动窗口,windowsize几个小时,滑动步长几分钟,状态overlap比较多,checkpoint生成经常失败,这种场景应该怎么优化呢? #Flink

展开
收起
黄一刀 2020-05-29 18:59:09 1113 0
2 条回答
写回答
取消 提交回答
  • 我理解flink不适合做这种大窗口的聚合,尤其还需要去重的场景,会导致state爆掉,我们目前的做法是用flink做etl,数据sink到tidb中,tiflush做olap读写分离查询还挺快的,实时性要求不是特别特别高是ok的

    2023-08-04 10:16:45
    赞同 展开评论 打赏
  • 不用滑动窗口,用分钟级别滚动窗口,预聚合打到外部存储,查询外部存储获得最终结果

    2020-05-29 18:59:48
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载