Flink CDC这个有没有优化过的？
Flink CDC这个有没有优化过的？The connector is now using the maximum batch size 100000 when querying the LogMiner view. This could be indicative of large SCN gaps
展开
收起
1
条回答
写回答
写回答
-
面对过去，不要迷离；面对未来，不必彷徨；活在今天，你只要把自己完全展示给别人看。是的，Flink CDC已经进行了一些优化。在查询LogMiner视图时，连接器现在使用的最大批量大小为100000。这可能表明SCN（系统更改编号）间隙较大。为了解决这个问题，Flink CDC引入了更高效的数据读取和处理机制，包括并行度调整、内存管理优化等。此外，Flink CDC还支持更多的配置选项，以便用户可以根据实际需求进行定制。总的来说，Flink CDC已经过多次迭代和优化，以提高其性能和可靠性。
2023-12-11 17:19:33赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
Flink CDC有遇见这个问题的吗？
720
Flink CDC中我使用了自定义聚合函数，但是报错这个需要怎么解决呢？
578
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
2109
flink1.15启动后无法访问webui的问题有人遇到过吗
10078
不同版本的 flink 如何适配不同版本 kafka，flink-connect-kafka 版本
225
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
604
Caused by: org.apache.kafka.common.errors.TimeoutE
2466
flink sql 批模式需要咋配置啊？
893
使用Flink CDC，生产环境要申请的服务器如何评估
948
flinkcdc启动，怎么修改默认端口号，默认是8081。
851
展开全部
Flink 流批一体场景应用及落地情况
67245
湖仓一体全面开启实时化时代
50496
日均万亿条数据如何处理？爱奇艺实时计算平台这样做
2849
Flink State 最佳实践
2411
Apache Paimon统一大数据湖存储底座
627
实时计算 Flink版操作报错合集之在配置连接时，添加了scan.startup.mode参数后，出现报错。是什么导致的
606
实时计算 Flink版操作报错合集之从 PostgreSQL 读取数据并写入 Kafka 时，遇到 "initial slot snapshot too large" 的错误，该怎么办
560
流批一体技术简介
50168
Flink CDC在阿里云DataWorks数据集成应用实践
1198
实时计算 Flink版操作报错合集之遇到了缺少包的错误，已经添加了相应的 jar 包，仍然出现同样的报错，该怎么解决
531
展开全部
相关课程
更多
相关文章
相关电子书
更多
