AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

如果上游mysql库下的表很多，数据变化很频繁的话，会不会造成下游flink cdc作业消费binl

如果上游mysql库下的表很多，数据变化很频繁的话，会不会造成下游flink cdc作业消费binlog的时候出现timeout导致作业挂掉？

展开
收起
雪哥哥 2022-10-24 17:46:07 766 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 毛毛虫雨

    之前一个PG的数据变更特别频繁，很多批量新增百万，删除百万的操作，然后cdc启动一会儿，flink 内存就超了，然后就挂了 目前的解决方案就是加大 flink 的内存吧（此答案整理自Flink CDC 社区）

    2022-10-24 18:06:59
    赞同 展开评论
问答分类：
关系型数据库 MySQL 流计算 实时计算 Flink版 云数据库 RDS MySQL 版
问答标签：
云数据库 RDS MySQL 版数据 实时计算 Flink版CDC 实时计算 Flink版数据 实时计算 Flink版mysql 实时计算 Flink版作业
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
flink sql mysql cdc，虚拟流表中出现上游表没有的字段，不报错怎么办？
67
0
0
Flink CDC里上游pg 下游kafka，提示这个错误是我传的插件jar包有问题的吗?
70
1
0
Flink这个时间是选的上游表的binlog生成的时间吗？
39
1
0
Flink CDC里对于flink 的sink，上游有增删改的情况下，有什么推荐的组件吗？
100
1
0
Flink上游数据是否处理完
49
1
0
Flink CDC支持实时同步自动切换上游表吗
25
0
0
flink cdc 3.x 上游表drop掉字段，下游表也会drop该字段么？
46
0
0
请教下在聚合场景下，如果上游数据出现更新或者删除，如何保证flink sql聚合结果的准确性？
65
0
0
flink cdc2.4同步数据，上游几十万条数据下游只收到了十几条，ck是开着的，这种是什么情况？
79
1
0
Flink CDC里如果上游没办法限制数据流量 sink doris有办法限制写入流量吗 ？
142
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问
收录在圈子:
阿里云实时计算Flink
199210
+ 订阅
实时计算 Flink 版（Alibaba Cloud Realtime Compute for Apache Flink，Powered by Ververica）是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统，由 Apache Flink 创始团队官方出品，拥有全球统一商业化品牌，完全兼容开源 Flink API，提供丰富的企业级增值功能。

相关文章

  • 另类却不罕见的聚合运算
  • 基于ssm的台球厅管理系统，附源码+数据库+论文
  • 基于ssm的培训学校教学管理平台，附源码+数据库+论文
  • 【赵渝强老师】PostgreSQL的模板数据库
  • 销售易vs纷享销客，CRM软件怎么选？

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • flink cdc 有没得官方介绍文档？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • flink大作业启动频繁报akka.pattern.AskTimeoutException 大家有
  • 在Flink为什么遇到这个报错后，作业虽然RUNNING，但是却HANG死了？会有什么隐形的坑吗？
  • web-ui 加载会非常慢是什么原因呢？
  • flinksql 新增字段后状态失效，无法使用savepoint启动 有什么解决方案吗？
  • Flink-CDC 文档网站地址是什么？
  • 阿里云实时计算的资源单位是什么？
    • 展开全部
  • 流计算StreamCompute
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 阿里云实时计算产品案例&解决方案汇总
  • 如何正确使用 Flink Connector？
  • Flink SQL 功能解密系列 —— 数据去重的技巧和思考
  • Flink: 快速构建统一的实时日志平台
  • Apache Flink 漫谈系列(05) - Fault Tolerance
  • Apache Flink 漫谈系列(12) - Time Interval(Time-windowed) JOIN
  • 如何分析及处理 Flink 反压？
  • 阿里巴巴大规模应用Flink的踩坑经验：如何大幅降低 HDFS 压力？
    • 展开全部
    还有其他疑问?
    咨询AI助理