开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink1.13.6版本消费sls日志服务的数据能不能从最新位点开始消费?

flink1.13.6版本消费sls日志服务的数据发现现在消费的数据是历史全量消费的数据 能不能从最新位点开始消费?

展开
收起
十一0204 2023-07-24 21:58:13 51 0
3 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    在 Flink 1.13.6 版本中,Flink 支持使用阿里云日志服务(SLS)作为数据源进行数据消费。在使用 SLS 数据源时,可以通过设置起始位置来控制从何处开始消费数据。具体来说,可以通过以下方式设置起始位置:
    设置起始时间:可以通过 withStartTimestamp() 方法设置起始的 Unix 时间戳(毫秒级别),从指定的时间开始消费数据。
    设置起始日志位置:可以通过 withStartFromSpecificOffsets() 方法设置起始的日志位置,从指定的日志位置开始消费数据。需要注意的是,SLS 数据源的日志位置是由 shardId 和 cursor 两部分组成的,因此需要同时指定 shardId 和 cursor。
    设置起始日志位置为最新位置:可以通过 withStartFromLatestOffsets() 方法将起始日志位置设置为最新位置,从 SLS 数据源中的最新数据开始消费。

    2023-07-29 18:35:25
    赞同 展开评论 打赏
  • 意中人就是我呀!

    指定下消费group的 mode。此回答整理至钉群“Flink CDC 社区”

    2023-07-26 12:02:57
    赞同 展开评论 打赏
  • 存在即是合理

    如果想要从最新位点开始消费数据,可以尝试使用GetCursorOrData接口从Shard中获取数据,注意频繁的调用该接口可能会导致数据超过日志服务的Shard限制。

    2023-07-25 11:31:29
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载