开发者社区 问答 正文

批流一体的一些疑问

发现一个问题大佬能帮忙解答一二? 1. 数据中的补充表(补充流信息, 流信息的设备配置全集) 2.数据流 kafka原表 主要想实现的目标 发现一段时间内未发送消息的设备 主要实现流程 1. 2小时的滑动窗口来distinct所有的设备ID 2. 查询mysql的设备合集表 查询 ID not in (distinct id from 滑动窗口)

直接查询的时候是没有问题的 能达到批和流一起使用 但是结果插入数据库的时候变成了批 mysql中的结果不会变化

请问这种情况是什么机制 如果是批流一体情况下 回当做批处理那为啥select的时候能实现目标?*来自志愿者整理的flink邮件归档

展开
收起
EXCEED 2021-12-02 16:03:09 647 分享 版权
1 条回答
写回答
取消 提交回答
  • 大概的逻辑是这样的 insert mysql_result_table【mysql结果表】 select * from id_all【id的所有合集 mysql表】 where id not in (select distinct id from flink_view【2小时的id的合集】)

    insert到mysql的时候 结果数据不会随着窗口变动而变化*来自志愿者整理的FLINK邮件归档

    2021-12-02 16:16:18
    赞同 展开评论