开发者社区> 问答> 正文

Flink1.9批任务yn和ys对任务的影响

跑tpcds的query1: flink run -m yarn-cluster -d -p 100 -yn 20 -ys 5 -yjm 60g -ytm 30g 任务可以正常执行 flink run -m yarn-cluster -d -p 100 -yn 10 -ys 10 -yjm 60g -ytm 30g 任务在做hashjoin的时候就会失败 报错是No pooled slot available and request to ResourceManager for new slot failed 搞不懂这有啥关系,求指教 faaron zheng *来自志愿者整理的flink邮件归档

展开
收起
EXCEED 2021-12-08 11:25:30 1687 0
1 条回答
写回答
取消 提交回答
  • Flink 1.9 中 -yn参数应该是不生效的,后续版本中已经删除了这个参数。

    根据你的参数,在每个 TM 的内存为30G不变的情况下,每个 TM

    中的slot个数(-ys)从5变成10,也就意味着平均每个slot占用的内存变为了原来的一半。

    Flink 1.9 的sql batch 算子对 flink managed memory 是有确定的需求的,很可能是这个变化导致单个 slot

    的managed memory无法满足算子的资源需求了。*来自志愿者整理的flink邮件归档

    2021-12-08 14:27:43
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载