开发者社区> 问答> 正文

Flink1.10 flinksql 单表流汇总计算数据不对是什么情况?

最近在观察Flink SQL 1.10任务,发现有时候聚合计算结果不对。

-- 01 因为有update数据,取这个用户当天最新的数据 -- id是表student_class_summary 的主键 create view tmp_student_class_summary as select uid, class_date, class_duration from (select *,row_number() over(partition by id order by updated_time desc) as rn from student_class_summary) t where rn = 1;

-- 02 聚合计算出每个用户每天的总量

select student_id, class_date, sum(class_duration) as class_duration from tmp_student_class_summary group by student_id,class_date;

每天大概有几条数据计算结果不对,不知道问题出在哪。转态是24h过期,但是用户在一天内的数据产生间隔是严格小余24小时的,排除是状态失效导致的。*来自志愿者整理的FLINK邮件归档

展开
收起
又出bug了-- 2021-12-03 16:55:56 644 0
1 条回答
写回答
取消 提交回答
  • 可以参考这个[1]看下是不是回撤导致的,如果是的话可以开一个比较小的 mini-batch 看能不能解决。

    [1]. http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Flink-streaming-sql-group-by-td34412.html*来自志愿者整理的FLINK邮件归档

    2021-12-03 17:52:18
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载