开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC中为啥监控mongodb,写不进去偏移量,导致每次都是从头拿数据?

Flink CDC中为啥监控mongodb,写不进去偏移量,导致每次都是从头拿数据?
86bed887c2eed9233b60c8dde91e7c8c.png

展开
收起
小易01 2023-08-16 08:06:15 67 0
1 条回答
写回答
取消 提交回答
  • MongoDB的偏移量是保存在MongoDB中的,而Flink CDC是通过读取MongoDB的oplog来监控数据库的变更的,所以Flink CDC无法将偏移量写入到MongoDB中。

    如果想要将偏移量写入到MongoDB中,可以使用MongoDB的Change Stream API。Change Stream API可以监控MongoDB中的数据变更,并将变更结果发送到一个指定的输出流。我们可以使用Change Stream API将变更结果写入到MongoDB中,从而实现将偏移量写入到MongoDB中。

    2023-09-22 11:14:48
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    开源数据库 MongoDB 专场 MongoDB疑难杂症分析及优化 立即下载
    阿里云MongoDB云服务构建 立即下载
    饿了么高级架构师陈东明:MongoDB是如何逐步提高可靠性的 立即下载

    相关镜像