Flink大家遇到过这个问题嘛?

Flink大家遇到过这个问题嘛?Ephemeral Storage资源不足:
日志中提到“Worker haosen-zhengkutongbu-taskmanager-1-21 is terminated. Diagnostics: Pod terminated...Container flink-main-container was using 150859064Ki, which exceeds its request of 0.” 这表明flink-main-container使用的ephemeral storage(临时存储)达到了150859064KiB,超出了其请求的0字节,从而触发了Eviction(驱逐)。

展开
收起
真的很搞笑 2024-07-08 10:27:56 86 分享 版权
1 条回答
写回答
取消 提交回答
  • 这个问题表明Flink任务的容器flink-main-container使用的临时存储超出了分配的资源。这通常是由于任务运行过程中缓存或者中间结果文件过多导致的。需
    调整Pod的资源限制,增加ephemeral-storage的请求和限制值。
    优化Flink作业,减少中间结果的大小或使用更高效的处理方式。
    如果使用了状态管理,检查并调整状态backend的配置,例如使用更高效的压缩或限制状态大小。
    分析作业是否有不必要的大对象生成,如大字段或大型聚合结果。
    可参考官方文档

    2024-07-08 14:40:11
    赞同 1 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理