Flink CDC只关联一张cdc维表checkpoint不会越来越大,实际上还是会越来越大,这个是什么情况?
通常是为了减少数据处理的复杂性,使得数据处理更加简单。但是,这并不意味着Checkpoint不会越来越大。
Checkpoint是Flink在处理数据时保存的一种状态,用于恢复任务的执行状态。在Flink CDC中,每次处理数据时,都需要将处理的结果保存到Checkpoint中。如果只关联一张CDC维表,那么每次处理数据时,需要保存的Checkpoint数据就会减少。但是,由于Flink CDC需要处理的数据量通常较大,因此随着时间的推移,Checkpoint的大小仍然可能会越来越大。
没设置ttl吧,我一张cdc,两张维表,我ckp一直就没大过
,改成jdbc链接就行了,jdbc也可以拉缓存到内存,除非pgsql这张表特别大,此回答整理自钉群“Flink CDC 社区”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。