Flink CDC一个场景中需要关联十几张表并聚合，每次变更都会更新到Kafka很多数据？
Flink CDC一个场景中需要关联十几张表并聚合，我现在使用了upsertkafaka将这个大融合切成多个，但是现在问题是这样每个新任务基于上次的upsert Kafka数据量非常大，每次变更都会更新到Kafka很多数据？有没有更好的方式比如结合ice格式的流融合？es8 table connector pls不想走中转感觉走upsertKafka会变慢？
展开
收起
1
条回答
写回答
写回答
-
面对过去，不要迷离；面对未来，不必彷徨；活在今天，你只要把自己完全展示给别人看。您可以考虑使用Flink CDC的流融合功能来解决这个问题。流融合可以将多个表的数据进行关联和聚合，并将结果写入到目标表中。相比于将数据写入到Kafka中再进行处理，流融合可以减少数据传输和处理的开销，提高系统的性能。
对于Iceberg格式的流融合，您可以使用Flink CDC的Iceberg Connector来实现。该连接器支持将数据写入到Iceberg表中，并提供了一些高级功能，如数据分区、数据文件管理和版本控制等。通过使用Iceberg Connector，您可以将多个表的数据进行关联和聚合，并将结果写入到Iceberg表中。
2023-12-12 17:36:11赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
2244
flinkcdc性能很差
164
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
1733
请问如何用flink sql客户端用yarn application模式提交任务呢？
1706
Flink如何配置Task Manager？
874
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1430
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3806
flink怎么能够快速消费kafka数据，需要设置什么参数呢？
1607
大佬们，flink cdc如何集成达梦数据库？或者有没有解决方案？
1326
flinkcdc启动，怎么修改默认端口号，默认是8081。
1578
展开全部
数据仓库介绍与实时数仓案例
42512
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24553
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
28182
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23543
阿里云实时计算产品案例&解决方案汇总
27959
接着！！Apache Flink 全领域干货合集（持续更新）
16533
回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
14043
Apache Flink 的迁移之路，2 年处理效果提升 5 倍
9752
Flink Checkpoint 问题排查实用指南
13279
史上超强阵容！大数据及人工智能领域顶级盛会，Flink Forward Asia 2019 不容错过！
9431
展开全部
相关文章
相关电子书
更多
