开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

FLink的state.backend模式修改为rocksdb之后,是还需要调整什么其他的参数吗?

FLink的state.backend模式修改为rocksdb之后,flinkcdc跑大批量数据会漏数,看日志有RocksDBStateBackend performance will be poor because of the current Flink memory configuration! RocksDB will flush memtable constantly, causing high IO and CPU. Typically the easiest fix is to increase task manager managed memory size. If running locally, see the parameter taskmanager.memory.managed.size. Details: arenaBlockSize 8388608 > mutableLimit 5010795 (writeBufferSize = 67108864, arenaBlockSizeConfigured = 0, defaultArenaBlockSize = 8388608, writeBufferManagerCapacity = 5726623)告警日志,相应的调大askmanager.memory.managed.size值之后,运行任务一周左右又出现这个告警,大数据量的任务会出现漏数问题,是还需要调整什么其他的参数吗?

展开
收起
真的很搞笑 2024-04-11 08:42:33 109 0
0 条回答
写回答
取消 提交回答

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载