各位，Flink CDC 中俩个亿数据做实时聚合有什么好的方法推荐下，目前用mongo不太友好？
各位，Flink CDC 中俩个亿数据做实时聚合有什么好的方法推荐下，目前用mongo不太友好？
展开
收起
2
条回答
写回答
写回答
-
存在即是合理也可以试试Apache Kafka，使用Kafka作为数据流管道，可以实现实时聚合。Flink CDC提供了与Kafka的集成，可以使用Flink CDC中的Kafka源和Sink连接器将数据从MySQL、PostgreSQL等数据库同步到Kafka中，然后使用Flink的流处理引擎对Kafka中的数据进行实时聚合。
总之，选择哪种方法取决于具体需求和技术栈。如果已经熟悉了其中一种方法，那么使用它来实现实时聚合可能是最好的选择。如果还没有确定最佳方案，可以考虑使用Flink CDC和Kafka等工具来实现快速、可靠的数据传输和实时聚合。
2023-05-09 16:51:10赞同 展开评论 打赏 -
感觉. Starrocks. Doris. tidb可以参考一下。没有join的话ck应该是最优解，此回答整理自钉群“Flink CDC 社区”
2023-05-09 14:22:36赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
Flink如何配置Task Manager？
517
flink sql 批模式需要咋配置啊？
1374
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3422
使用flink on yarn的模式，怎么进行内存资源调优呢，如何配置flink内存
616
flink的1cu是指1cpu还是1cpu+4g存储？
619
Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行
1747
请问现在Flink的批作业能定时调度吗？或者通过什么方法才能实现定时调度啊？
876
请问flink-connector-jdbc在sink时，如何设置批量写入？
3010
flink 1.18必须配套JDK11吗 1.8是不是不行了呢？
1740
flink本地启动webUI，TaskManager的Logs日志可以正常查看怎么办？
368
展开全部
OPPO数据中台之基石：基于Flink SQL构建实数据仓库
21893
分布式Snapshot和Flink Checkpointing简介
19955
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23303
回顾 | Kafka x Flink Meetup 与世界人工智能大会大数据 AI 专场精彩回顾（附PPT下载）
14018
Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
16604
Flink Checkpoint 问题排查实用指南
13155
Flink SQL 功能解密系列 —— 数据去重的技巧和思考
10857
基于Flink的实时日志分析系统实践
10502
使用 Kafka 和 Flink 构建实时数据处理系统
12928
深入了解 Flink 网络栈（二）：监控、指标和处理背压
8595
展开全部
相关文章
相关电子书
更多
