开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC这个问题遇到过吗?全量同步阶段报这个错误?

Flink CDC这个问题遇到过吗?全量同步阶段报这个错误?image.png

展开
收起
真的很搞笑 2023-11-15 08:18:45 58 0
1 条回答
写回答
取消 提交回答
  • 报错:akka.pattern.AskTimeoutException

    https://help.aliyun.com/zh/flink/support/faq-about-deployment-failovers-and-taskmanager-failures?spm=a2c4g.11186623.0.i6

    报错原因
    因为JobManager或TaskManager的内存不足导致持续GC,从而导致JM和TM之间的心跳和PRC请求超时。
    因为作业规模较大,即RPC请求量较大,但JM资源不足,从而RPC请求积压,因此导致JM和TM之间的心跳和PRC请求超时。
    解决方案
    如果是持续GC导致的报错,则建议通过作业内存情况和GC日志确认GC的耗时和频率,如果确实存在高频GC或GC耗时的问题,则需要增加JM和TM内存。
    如果是作业规模较大导致的报错,则建议增加JM的CPU和内存资源,同时调大akka.ask.timeout和heartbeat.timeout参数取值,参数默认值为50s。
    重要
    建议只在大规模作业上调整以上两个参数,小规模作业通常不是由于该配置较小导致。
    建议按需设置该参数,因为该参数调整过大,会导致在TaskManager异常退出时,作业恢复的时间变长。

    2023-11-15 08:38:10
    赞同 1 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载