Flink CDC内存小点也能跑,只是慢些,但是我测试内存小的话全量同步task就直接跑满了,然后过一会就报内存溢出的错误挂掉了,不知道怎么处理?
这个有可能,我的SQL Server,表有8000W数据,主键字段是自增长的字符串字段,我测试分片效率很低,默认值8096分片跑了1天半还没跑完,我现在测试把分片大小调到了100W,分片需要近20分钟,我发现的主要问题是分片刚开始很快,然后会越来越慢,不知道这是什么原因,我看分片会执行Select Max()from X where 主键>? order by X 语句,这个语句数据库执行是很快的,但是分片的时候执行会越来越慢,此回答整理自钉群“Flink CDC 社区”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。