开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink zk 里这么多失败任务,不删除吗?这个会占空间吗

Flink zk 里这么多失败任务,不删除吗?这个会占空间吗

77d6acfe1458b3c57f13baaed8215ad9.png

展开
收起
wenti 2023-03-15 10:43:48 401 0
1 条回答
写回答
取消 提交回答
  • 随心分享,欢迎友善交流讨论:)

    在 Flink 中,一些失败的任务(例如由于异常或者网络问题导致任务失败)可能会在 ZooKeeper 中留下一些残留数据。这些数据可能会占用一些空间,但是在 Flink 中,这些数据不会一直存在,它们会被定期清理。

    具体来说,Flink会定期清理 ZooKeeper 中过期的失败任务节点(默认情况下,这些节点会在12 小时内过期)。此外,Flink 还提供了一个命令 cleanupZookeeper,可以手动清理 ZooKeeper 中的数据。该命令使用方式如下:

    ./bin/flink cleanupZookeeper 需要注意的是,清理 ZooKeeper 中的数据可能会影响 Flink作业的运行情况,因此在清理之前需要先停止所有 Flink作业。此外,建议在清理之前备份正在运行的作业的相关数据。

    综上所述,虽然失败任务留下的数据可能会占用一些空间,但是 Flink会定期清理这些数据,因此不需要过于担心空间问题。

    2023-03-16 14:52:20
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载