开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

使用flink-cdc中出现cause by :这个问题你们一般怎么解决的?

有大佬使用flink-cdc中出现cause by :org.apache.flink.util.SerializiedThrowable:GC overhead limit exceeded 这个问题你们一般怎么解决的?

展开
收起
真的很搞笑 2024-01-09 11:14:07 54 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    这个问题是由于Flink CDC在序列化和反序列化过程中产生的GC开销超过了限制导致的。为了解决这个问题,你可以尝试以下方法:

    1. 增加JVM堆内存大小:通过增加JVM的堆内存大小,可以提供更多的内存空间给Flink CDC作业进行序列化和反序列化操作。你可以根据实际需求调整堆内存的大小。

    2. 优化序列化和反序列化策略:检查你的Flink CDC作业中的序列化和反序列化策略,看是否有优化的空间。例如,可以考虑使用更高效的序列化库或者减少不必要的序列化操作。

    3. 调整GC参数:可以通过调整JVM的GC参数来控制GC的行为。例如,可以增加GC的暂停时间或者降低GC的频率,以减轻GC的负担。

    4. 使用其他序列化方式:如果上述方法都无法解决问题,可以考虑使用其他的序列化方式,如Protocol Buffers、Avro等。这些序列化方式通常比Java默认的序列化方式更加高效。

    2024-01-09 15:50:05
    赞同 展开评论 打赏
  • 可以用Queue,用代码的话可以自定义序列化器可以控制数据的的速率 ,此回答整理自钉群“Flink CDC 社区”

    2024-01-09 11:46:51
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    低代码开发师(初级)实战教程 立即下载
    冬季实战营第三期:MySQL数据库进阶实战 立即下载
    阿里巴巴DevOps 最佳实践手册 立即下载