开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink实时写HDFS时遇到Slow ReadProcessor read fields took

flink消费kafka写HDFS部分taskmanager出现告警如下: Slow ReadProcessor read fields took 59990ms (threshold=30000ms); ack: seqno: 32 reply: SUCCESS reply: SUCCESS reply: SUCCESS downstreamAckTi meNanos: 564298 flag: 0 flag: 0 flag: 0, targets: 部分taskmanager出现此问题,导致处理速率变慢。 请问各位大佬,有没有好的办法规避。

展开
收起
cinphwsfholkm 2022-07-16 11:50:43 958 0
1 条回答
写回答
取消 提交回答
  • 十分耕耘,一定会有一分收获!

    楼主你好,这个告警是 Flink 的一个性能警告,提示某个 operator 的 read 方法读取 Kafka 数据时花费了较长时间。通常情况下,这种警告并不会影响 Flink 的运行,但如果频繁出现,可能会影响 Flink 的性能。

    可能导致此问题的原因有多种,这里给出一些可能的解决方案:

    1. 增加 TaskManager 的数量,以减轻单个 TaskManager 的压力。
    2. 检查 Kafka 的设置,确保 Kafka 集群的性能没有问题。
    3. 检查网络带宽和延迟,确保网络连接没有问题。
    4. 尝试禁用 Flink 的网络层优化,即将 taskmanager.network.credit-model 参数设置为 disable

    以上是一些可能的解决方案,如果这些方法都不起作用,可以进一步研究日志文件,查找原因并解决。

    2023-07-31 09:15:05
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    海量数据分布式存储——Apache HDFS之最新进展 立即下载