开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

请教一个问题:场景:flink sql 中使用累计窗口,窗口大小一天,每分钟统计一次当日累计

请教一个问题:

场景:flink sql 中使用累计窗口,窗口大小一天,每分钟统计一次当日累计

问题:发现随之时间的推移数据量越来越大,并且很多数据 当前分钟和前一分钟并没有变化

想要的效果:只输出当前分钟和前一分钟有变化的数据,有什么好的建议和方案吗?比如改源码 或者其他

展开
收起
云上静思 2022-07-19 10:35:34 2210 0
1 条回答
写回答
取消 提交回答
  • 是使用 CUMULATE 对吧

    是否可以在之前的聚合后使用 Over 去重,ROW_NUMBER() OVER (PARTITION BY window_start, count … 设置一下state ttl,如果觉得 state 变多了,可以折中一下, partition by window_start, count / 10,

    此答案来自钉钉群“【2】Apache Flink China 社区”

    2022-07-19 10:41:28
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    原生SQL on Hadoop引擎- Apache HAWQ 2.x最新技术解密malili 立即下载
    AnalyticDB基础版:云原生My SQL 敏捷数仓 立即下载
    第十二届 BigData NoSQL Meetup — 基于hbase的New sql落地实践 立即下载