开发者社区> 问答> 正文

Flink大state读取磁盘,磁盘IO打满,任务相互影响的问题探讨

如题,Flink大state读取磁盘,磁盘IO打满,任务相互影响的问题

尝试手段:

  1. 手动迁移IO比较高的任务到其他机器,但是yarn任务提交比较随机,只能偶尔为之

  2. 目前没有SSD,只能用普通STATA盘,目前加了两块盘提示磁盘IO能力,但是单盘对单任务的磁盘IO瓶颈还在

还有哪些策略可以解决或者缓解么?*来自志愿者整理的flink邮件归档

展开
收起
毛毛虫雨 2021-12-08 11:12:11 813 0
1 条回答
写回答
取消 提交回答
  • 像你描述的,单盘对单任务还存在 IO 瓶颈,这里是单 container 吗?像前面大家说的,你需要确认这么大的 IO 访问是符合预期的,如果符合预期的话,你可以尝试增加 blockcache 和 memtable 的大小,将更多的数据放到内存。

    另外,你使用的是什么 state 类型,valuestate 和 liststate 的话,能否换成 mapstate 来处理。同时,你可以看下 rocksdb 的 log,看看是否有什么可以优化的地方*来自志愿者整理的flink邮件归档

    2021-12-08 19:25:07
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
多IO线程优化版 立即下载