大佬们，Flink CDC多流join和聚合操作状态怎么管理比较好？
大佬们，Flink CDC多流join和聚合操作状态怎么管理比较好？开启全量checkpoint好像太大了，增量的话怎么保存全部checkpoint？
写回答
-
Flink CDC 多流join和聚合操作的状态可以使用 Flink 的 state 管理器来管理。
Flink 提供了很多种 state 管理器，包括 RocksDBStateBackend、MemoryStateBackend、FsStateBackend 等。不同类型的 state 管理器有不同的特点，在选择使用何种 state 管理器的时候，需要根据具体的业务场景来进行选择。
对于 Flink CDC 多流join和聚合操作，如果数据量比较小，可以使用 MemoryStateBackend。如果数据量比较大，可以使用 RocksDBStateBackend。
使用 RocksDBStateBackend 需要注意，RocksDB 的状态数据存储在磁盘上，所以在运行过程中需要定期进行 checkpoint。如果 checkpoint 失败，可能会导致数据丢失。
2023-09-20 11:28:22赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
相关文章
相关电子书
更多
