AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

Flink CDC因checkpoint 对象过多导致 jobmanager oom 挂掉的情况吗？

Flink CDC中有遇到过 因checkpoint 对象过多导致 jobmanager oom 挂掉的情况？image.png

展开
收起
真的很搞笑 2023-09-20 12:56:45 132 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 清风拂袖

    Flink CDC 因 checkpoint 对象过多导致 jobmanager OOM 挂掉的情况是可能发生的。

    Flink CDC 在执行时会创建 checkpoint 对象，这些对象会保存在 jobmanager 的内存中。如果 checkpoint 对象过多，就会导致 jobmanager 内存不足，从而导致 OOM 挂掉。

    为了避免这种情况，可以使用以下方法：

    减少 checkpoint 的频率。
    增加 checkpoint 的大小。
    关闭不必要的 checkpoint。
    使用更大内存的机器。
    如果您在使用 Flink CDC 时遇到 OOM 挂掉的问题，可以尝试使用以上方法进行解决。

    2023-10-19 09:46:44
    赞同 展开评论
问答分类：
流计算 实时计算 Flink版
问答标签：
实时计算 Flink版CDC 实时计算 Flink版checkpoint 实时计算 Flink版JobManager 实时计算 Flink版oom 实时计算 Flink版cdc checkpoint
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink 将所有的 TaskManager 都走这个 JobManager 来管理吗？
80
1
0
ZooKeeper 网络瞬断时，Flink JobManager 会遇到什么问题，以及这是如何影响
222
1
0
K8S部署的Flink如何配JobManager和TaskManager的日志？
148
0
0
Flink的vvp有支持standby JobManager么？用于JM crash时作业快速恢复
87
1
0
Flink JobManager功能有哪些
85
1
0
在Flink CDC中提交任务jobmanager能起来，taskmanager起不来，如何解决？
82
0
0
Flink CDC用sqlserver的cdc消费整库所有表，不能所有表都建一个对象实例吧？
110
0
0
Flink CDC里Oracle不支持大对象同步吗？
76
0
0
debezium作者说升级debezium版本可修复该问题，cdc社区啥时候考虑修复该问题呢？
102
1
0
Flink cdc中jobmanager有个solrd进程，是不是被挖矿病毒给感染了？
118
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 实时计算系列-----第一话：前言
  • Flink Agents：基于Apache Flink的事件驱动AI智能体框架
  • 基于实时迭代的数值鲁棒NMPC双模稳定预测模型（Matlab代码实现）
  • 基于模型预测控制对PMSM进行FOC控制，模拟控制了PMSM的速度（Simulink仿真实现）
  • 解析pg_stat_replication状态字段的枚举值

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • flink的1cu是指1cpu还是1cpu+4g存储？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • 在斗鱼，实时计算发展的历程如何？
  • Flink-CDC 文档网站地址是什么？
  • Flink CDC中，有哪位大佬有flink 版本和cdc版本的适配统计啊？
  • Flink CDC里用jdbc往达梦dm8推数据，老是显示字符被截断是咋回事？有人碰到过嘛？
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 实时计算 Flink SQL 核心功能解密
  • 流计算StreamCompute
  • 通过Flink实时构建搜索引擎的索引
  • 阿里云实时计算产品案例&解决方案汇总
  • 接着！！Apache Flink 全领域干货合集（持续更新）
  • 回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
  • Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
    • 展开全部
    还有其他疑问?
    咨询AI助理