开发者社区 问答 正文

各位大佬,在使用Flink-Oracle-Cdc时,对于那种短时的爆发数据(假如说一瞬间改了几百万条

各位大佬,在使用Flink-Oracle-Cdc时,对于那种短时的爆发数据(假如说一瞬间改了几百万条记录的一列的标志),source就会都拉取进内存,然后TM内存就会不足挂掉,请问有什么配置可以避免这种情况或分批次处理?使用的是DataStream Source

展开
收起
真的很搞笑 2023-04-19 18:39:05 108 分享 版权
1 条回答
写回答
取消 提交回答
  • 加大不确定的内存 或者 改源码把tm的数据持久化出来,commit时候再读回去。暂没想到其他更好思路。,此回答整理自钉群“Flink CDC 社区”

    2023-04-19 22:52:20
    赞同 展开评论
收录在圈子:
实时计算 Flink 版(Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球统一商业化品牌,完全兼容开源 Flink API,提供丰富的企业级增值功能。
还有其他疑问?
咨询AI助理