1
条回答
写回答
写回答
-
推荐回答在表规模非常大时，以前会报 binlog 分片下发失败的错误，这是因为在超大表对应的 snapsho t 分片会非常多，而 binlog 分片需要包含所有 snapshot 分片信息，当 SourceCoordinator 下发 binglog 分片到 SourceReader 节点时，分片 size 超过 RPC 通信框架支持的最大 size 会导致分片下发失败。虽然可以通过修改 RPC 框架的参数缓解分片 size 过大问题，但无法彻 底解决。2.1 版本里通过将多个 snapshot 分片信息划分成 group 发送，一个 binlog 分片会 切分成多个 group 逐个发送，从而彻底解决该问题。
资料来源：《Flink CDC：新一代数据集成框架》，下载链接：https://developer.aliyun.com/topic/download?id=8256。
2022-01-20 11:29:09赞同 展开评论 打赏
问答分类：
问答地址：
开发者社区
>
大数据与机器学习
>
实时计算 Flink
>
问答
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1432
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
182
Caused by: org.apache.kafka.common.errors.TimeoutE
3296
大佬，Caused by: java.lang.ClassNotFoundException: or
506
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1243
请问flink-connector-jdbc在sink时，如何设置批量写入？
3137
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
1537
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3560
Flink的tmp的这个目录产生临时文件很大，我想配置到外面，有配置项可以配置吗？
892
Flink CDC 能适配达梦不？
1202
展开全部
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24457
分布式Snapshot和Flink Checkpointing简介
19963
流计算StreamCompute
18670
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23368
阿里云实时计算产品案例&解决方案汇总
27867
Apache Flink 的迁移之路，2 年处理效果提升 5 倍
9743
Flink Checkpoint 问题排查实用指南
13193
使用 Kafka 和 Flink 构建实时数据处理系统
13053
Flink SQL 功能解密系列 —— 阿里云流计算/Blink支持的connectors
7022
开篇 | 揭秘 Flink 1.9 新架构，Blink Planner 你会用了吗？
7212
展开全部
