AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

Flink CDC中大佬你测过初始化时候的同步速度吗？我现在407w数据要同步14分钟，有优化办法吗

Flink CDC中大佬你测过初始化时候的同步速度吗？我现在407w数据要同步14分钟，有优化办法吗

展开
收起
真的很搞笑 2023-06-29 08:29:44 131 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    估计是一些cdc参数设置上的问题，你看下log.ming.batch.size.max这个配置设置了多少，如果flinkcdc任务日志DEBUG级别的日志且batchsize>=maxbatchsize.日志：DEBUG io.debezium.connector.oracle.OracleStreamingChangeEventSourceMetrics [] - Updating batch size window. Batch size 502000. Min batch size 20000. Max batch size 500000. 或者你直接调大看看，我刚刚本地同步200w数据基本上1分钟，这个参数调了1000000，image.png 可以参考一下我的配置，此回答整理自钉群“Flink CDC 社区”

    2023-06-29 09:21:56
    赞同 展开评论
问答分类：
流计算 实时计算 Flink版
问答标签：
实时计算 Flink版数据 实时计算 Flink版CDC 实时计算 Flink版优化 实时计算 Flink版cdc优化 实时计算 Flink版cdc同步
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
实时计算 Flink版
flink的sink算子，一直都有部分task处于初始化阶段，但是如果用print打印则能正常运行
135
1
0
Flink CDC 3.6要同步多个集合，有没有办法起一个程序，同步多个集合？
90
1
0
flink cdc现在大表的初始化全量同步，还是只能把checkpoint时间设置长点吗？
87
0
0
flink cdc用cdc-mysql 抽的数据有没有办法把dbz-json的schema去掉？
86
1
0
在Flink作业提交过程中，上下文初始化包括哪些步骤？
87
1
0
flink cdc 读mysql 写进kafka，在执行一段时间后，任务就一直出于初始化状态？
109
0
0
在Flink CDC中，初始化集群之前，这部分做了吗？
95
1
0
在Flink CDC中，flink-cdc做Mysql的整库同步时，有办法忽略掉没有主键的表吗？
124
1
0
在Flink CDC中，mysql-cdc一次添加多张表进行全量初始化，有没有表级别的全量同步完成？
85
1
0
请教一下 使用flink cdc 同步 mysql->starrocks cdc报错怎么处理？
126
1
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 构建高效的实时数据管道：Flink、Kafka、CnosDB 的完美结合
  • 实现千表入湖之Apache Paimon篇
  • OBS特效与OBS美颜一步到位：专为新手主播打造的YY开播工具集成方案
  • 【机器人路径规划】基于流场寻路算法(Flow Field Pathfinding)的机器人路径规划（Python代码实现）
  • 【模型预测控制MPC】使用二次规划来模拟多输入多输出(MIMO)系统的模型预测控制（Matlab代码实现）

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 请问如何用flink sql客户端用yarn application模式提交任务呢？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • 在斗鱼，实时计算发展的历程如何？
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • flink怎么能够快速消费kafka数据，需要设置什么参数呢？
  • Flink CDC里用jdbc往达梦dm8推数据，老是显示字符被截断是咋回事？有人碰到过嘛？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • Flink CDC中，有哪位大佬有flink 版本和cdc版本的适配统计啊？
  • flinkcdc启动，怎么修改默认端口号，默认是8081。
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 流计算StreamCompute
  • 通过Flink实时构建搜索引擎的索引
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 阿里云实时计算产品案例&解决方案汇总
  • 流计算精品翻译: The Dataflow Model
  • 接着！！Apache Flink 全领域干货合集（持续更新）
  • 回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
  • Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
    • 展开全部
    还有其他疑问?
    咨询AI助理