开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

大家有遇到 flinsql 消费kafka,开了checkping 但是不提交offset的情况吗?

大家有遇到 flinsql 消费kafka,开了checkping 但是不提交offset的情况吗?

展开
收起
三分钟热度的鱼 2023-08-22 20:55:49 120 0
1 条回答
写回答
取消 提交回答
  • 有。这个问题一般是由于 flinsql 的 kafka consumer 没有正确关闭导致的。当 flinsql 的 kafka consumer 关闭时,它应该向 kafka 提交当前的 offset,以便下次恢复消费时可以从当前位置开始。如果 flinsql 的 kafka consumer 没有正确关闭,则不会提交 offset,导致下次恢复消费时从头开始消费。

    为了解决这个问题,您可以尝试以下方法:

    检查 flinsql 的 kafka consumer 是否正常关闭,如果没有,请手动关闭它。
    如果 flinsql 的 kafka consumer 正常关闭,但仍然不提交 offset,您可以尝试修改 flinsql 的配置,将 kafka.consumer.commit.interval.ms 设置为一个较小的值。
    如果您使用的是 flinsql 的 docker 镜像,您可以尝试修改镜像的配置,将 kafka.consumer.commit.interval.ms 设置为一个较小的值。
    如果您仍然遇到问题,请联系 flinsql 的开发团队寻求帮助。

    2023-09-19 10:33:49
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
消息队列kafka介绍 立即下载