开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink cdc一般生产环境mysql的binlog会开启滚动日志怎么处理?

flink cdc一般生产环境mysql的binlog会开启滚动日志,也就是为了节省空间,会删除掉之前的binlog,由于source和sink在同一个线程中,那么当出现back pressure时,可能会导致binlog被删除,而此时,应用由于异常导致重启并从checkpoint重新读取的问题。怎么处理?

展开
收起
小小鹿鹿鹿 2024-05-01 08:56:12 62 0
1 条回答
写回答
取消 提交回答
  • binlog被删除请调大保存时间,一般是7天,一般超过分钟都需要看看是不是反压了,最好加个告警。超过分钟级的cdc延迟已经是不可接受的了。7天内无法修复任务,直接无状态同步就行了。交易量大时是某个时间段,不可能一直是很高,只要保证binlog的保存时间能在可修复的时间内就行。此回答来自钉群Flink CDC 社区 。

    2024-05-01 13:03:28
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    PostgresChina2018_樊文凯_ORACLE数据库和应用异构迁移最佳实践 立即下载
    PostgresChina2018_王帅_从Oracle到PostgreSQL的数据迁移 立即下载
    Oracle云上最佳实践 立即下载

    相关镜像