开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC内存小点也能跑,只是慢些,不知道怎么处理?

Flink CDC内存小点也能跑,只是慢些,但是我测试内存小的话全量同步task就直接跑满了,然后过一会就报内存溢出的错误挂掉了,不知道怎么处理?

展开
收起
真的很搞笑 2023-11-06 19:37:22 46 0
1 条回答
写回答
取消 提交回答
  • 这个有可能,我的SQL Server,表有8000W数据,主键字段是自增长的字符串字段,我测试分片效率很低,默认值8096分片跑了1天半还没跑完,我现在测试把分片大小调到了100W,分片需要近20分钟,我发现的主要问题是分片刚开始很快,然后会越来越慢,不知道这是什么原因,我看分片会执行Select Max()from X where 主键>? order by X 语句,这个语句数据库执行是很快的,但是分片的时候执行会越来越慢,此回答整理自钉群“Flink CDC 社区”

    2023-11-08 07:39:45
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    任庆盛|Flink CDC + Kafka 加速业务实时化 立即下载
    内存取证与IaaS云平台恶意行 为的安全监控 立即下载
    云服务器ECS内存增强型实例re6全新发布 立即下载