开发者社区> 问答> 正文

批流一体的一些疑问

发现一个问题大佬能帮忙解答一二? 1. 数据中的补充表(补充流信息, 流信息的设备配置全集) 2.数据流 kafka原表 主要想实现的目标 发现一段时间内未发送消息的设备 主要实现流程 1. 2小时的滑动窗口来distinct所有的设备ID 2. 查询mysql的设备合集表 查询 ID not in (distinct id from 滑动窗口)

直接查询的时候是没有问题的 能达到批和流一起使用 但是结果插入数据库的时候变成了批 mysql中的结果不会变化

请问这种情况是什么机制 如果是批流一体情况下 回当做批处理那为啥select的时候能实现目标?*来自志愿者整理的flink邮件归档

展开
收起
EXCEED 2021-12-02 16:03:09 597 0
1 条回答
写回答
取消 提交回答
  • 大概的逻辑是这样的 insert mysql_result_table【mysql结果表】 select * from id_all【id的所有合集 mysql表】 where id not in (select distinct id from flink_view【2小时的id的合集】)

    insert到mysql的时候 结果数据不会随着窗口变动而变化*来自志愿者整理的FLINK邮件归档

    2021-12-02 16:16:18
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Sloth:网易流计算服务化平台架构实践 立即下载
湖仓一体方案在金融科技的实践 立即下载
基于阿里云构建博学谷平台实时湖仓 立即下载