开发者社区 > 大数据与机器学习 > 正文

请教下大佬们,Flink CDC中为什么数据更新的时候总是先删除后新增而不是直接更新呢?

问题1:请教下大佬们,Flink CDC中为什么数据更新的时候总是先删除后新增而不是直接更新呢?image.png 就是mysql+mongodb双流join 问题2:单独起一个任务去插入吗

展开
收起
cuicuicuic 2023-06-04 19:37:15 447 0
1 条回答
写回答
取消 提交回答
  • 回答1:用的啥库?支持立即更新吗?,mongodb update api操作分为update、updateOne、updateMany、replaceOne四种,比较复杂,可能为了方便就重新插入了,只插入mongo,加个操作标识字段,统计时再过滤掉有删除的可行吗?也可以自定义connector,mongo connector可以看看入库执行方式 回答2:单独起一个任务去插入吗,你用jdbc sink肯定不行啊,你获取的消息就是-U +D本身就是两条消息,当然会插入两条到mysql中,es sink就没有这个问题,因为es的api支持删除,插入,此回答整理自钉群“Flink CDC 社区”

    2023-06-04 19:44:05
    赞同 展开评论 打赏

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载