用flinkcdc连接Oracle以后,归档日志每天都很多500多g,有没有人知道为啥呢?

用flinkcdc连接Oracle以后,归档日志每天都很多500多g,有没有人知道为啥呢? lALPJwnI3NLOqj_NAgjNA_s_1019_520.png

展开
收起
十一0204 2023-04-10 21:40:55 560 分享 版权
1 条回答
写回答
取消 提交回答
  • 坚持这件事孤独又漫长。

    主要原因有以下几个可能:

    1. 数据库繁忙:如果Oracle数据库的负载非常大,它可能会产生更多的归档日志。这可能是由于长时间运行的事务、大量的查询或其他类型的活动导致的。

    2. CDC任务频繁运行:如果您的FlinkCDC任务在短时间内运行了很多次,它们可能需要检查的日志文件数量可能会增加。这可能导致更多的归档日志产生,并且可能会影响到数据库的性能。

    3. 数据库更新频繁:如果有很多 INSERT、UPDATE 或 DELETE 操作发生,它们可能会产生更多的归档日志。这可能是由于数据量很大、事务很长或者进行了非常频繁的提交操作导致的。

    为了减少这些问题的发生,可以尝试以下措施:

    1. 优化数据库:尽可能地减少数据库的负载。这包括限制查询数量、缓存数据并尽可能地减少事务数量和长度。

    2. 优化CDC任务:尝试调整FlinkCDC任务的频率和配置,以便它们不会检查太多的日志文件或者过于频繁地运行。

    3. 数据库压缩:使用Oracle的压缩机制,可以压缩归档日志文件的大小,从而减少它们的数量。

    2023-04-11 08:54:35
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

收录在圈子:
实时计算 Flink 版(Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球统一商业化品牌,完全兼容开源 Flink API,提供丰富的企业级增值功能。
还有其他疑问?
咨询AI助理