开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

遇到过Flink CDC这个错误嘛?

大佬们遇到过Flink CDC这个错误嘛?a5ae46bba8b755392a672f611c15d179.png

展开
收起
真的很搞笑 2024-01-07 16:41:13 54 0
3 条回答
写回答
取消 提交回答
  • 这个错误信息表示Flink CDC在尝试增加可用的网络内存或减小网络缓冲池的大小时遇到了问题。当前的总内存为64.00omb (671088642),但内存使用率已经达到了129%,这导致无法满足所有请求。这可能会严重影响网络吞吐量。建议考虑增加可用的内存或者减少网络缓冲池的大小。

    2024-01-09 11:18:53
    赞同 展开评论 打赏
  • 你并行度是不是设置的特别大啊,看有没有配置项改e38b06223e63478bff64cf0a87b1a162.png
    ,此回答整理自钉群“Flink CDC 社区”

    2024-01-07 19:15:47
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    是的,我了解这个问题。这是Apache Flink中的一个警告消息,它表示网络缓冲池(NetworkBufferPool)中可用内存不足。

    在你的日志信息里可以看到,当前总内存为64MB(约等于6708864 bytes),请求的内存大小为83MB (约等于87031008 bytes) ,而缺失的内存大约有19MB (约等于19922944 bytes) 。这可能是因为数据处理过程中需要更多的内存来存储和操作数据,但是系统分配给它的内存不足以满足需求导致的问题。

    解决此问题的方法通常包括:

    • 增加系统的物理内存。
    • 调整Flink配置以减少对网络缓冲池的需求,例如通过调整network.buffer.memory.size参数降低每个buffer的大小或者增加总的buffer数量等。
    • 如果你正在使用的是YARN或Kubernetes这样的容器化平台,则可以尝试提高资源限制,如增大节点上的内存配额。

    请注意,在进行任何更改之前,请确保理解这些变更可能会带来的影响,并且备份您的环境以防万一出现问题无法恢复。

    2024-01-07 16:46:22
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载