AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

Flink CDC有没有用mongocdc同步一个大collection？

Flink CDC有没有用mongocdc同步一个大collection碰到taskmanager oom的？
尝试过数据不落地，只是按分钟count一下条数，仍然会oom。
collection有百亿数据，起了75个10c32g的taskmanager，还是会在半到一个小时内oom，峰值拉取能到2kw/分钟，做checkpoint时候降到一两百万/分钟，后面oom了就跑不下去了，频繁拉起新taskmanager停老的？版本 flink 1.17 cdc 2.4.1，用的mongodb incremental connector？2000万每分钟拉过来也要一天，再慢就满足不了业务需求了。存量数据两百多亿，每天10%更新

展开
收起
真的很搞笑 2023-09-27 07:55:59 105 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    控制一下拉取数据的速度呢，你这个也太大了，此回答整理自钉群“Flink CDC 社区”

    2023-09-27 14:57:18
    赞同 展开评论
问答分类：
NoSQL MongoDB 流计算 实时计算 Flink版 云数据库 MongoDB 版
问答标签：
实时计算 Flink版CDC 实时计算 Flink版cdc同步 实时计算 Flink版同步 实时计算 Flink版collection 实时计算 Flink版mongocdc同步
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
Flink CDC中mongocdc支不支持下游自动建表？
118
2
0
用Flink mongocdc遇到这样的问题，读线上云mongo库数据，没有数据进来，这是什么原因？
168
5
0
Flink的cdas语法支持mongodb，如果是不定结构的collection写到下游会怎么适配？
60
1
0
Flink CDC里mongocdc 2.4版本，为啥这样写不生效啊？
43
0
0
Flink CDC是想着测试一下mongocdc， 运行时报错？
47
1
0
Flink CDC中mongocdc从timestamp启动报错Caused by: 遇到过吗？
157
3
0
Flink CDC有没有用过mongocdc的，支不支持下游动态建表？
96
3
0
Flink CDC collection的正则写法是怎样的？
153
1
0
各位大佬，请教一下，如果在flink cdc sql客户端 使用SQL查询表，怎么能记录原系统的数据
2077
1
0
那cdc最新版支持到flink的哪个版本，flink1.15还有guava兼容性问题吗？
1205
0
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 把redis的数据迁移到阿里云tair的方法
  • OBS特效与OBS美颜一步到位：专为新手主播打造的YY开播工具集成方案
  • Discord 如何存储数万亿条消息 — 系统设计的奇妙案例
  • 【机器人路径规划】基于流场寻路算法(Flow Field Pathfinding)的机器人路径规划（Python代码实现）
  • 【模型预测控制MPC】使用二次规划来模拟多输入多输出(MIMO)系统的模型预测控制（Matlab代码实现）

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • 在斗鱼，实时计算发展的历程如何？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • Flink CDC中，有哪位大佬有flink 版本和cdc版本的适配统计啊？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • flink怎么能够快速消费kafka数据，需要设置什么参数呢？
  • flink的1cu是指1cpu还是1cpu+4g存储？
  • Flink CDC里用jdbc往达梦dm8推数据，老是显示字符被截断是咋回事？有人碰到过嘛？
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 实时计算 Flink SQL 核心功能解密
  • 通过Flink实时构建搜索引擎的索引
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 阿里云实时计算产品案例&解决方案汇总
  • 接着！！Apache Flink 全领域干货合集（持续更新）
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
  • 基于实时计算（Flink）打造一个简单的实时推荐系统
  • Flink Checkpoint 问题排查实用指南
    • 展开全部
    还有其他疑问?
    咨询AI助理