开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC有没有遇到pg cdc 老是会报这个问题?

Flink CDC有没有遇到pg cdc 老是会报这个问题?ec6a9f36972a3b22241c053731e26c70.png

展开
收起
真的很搞笑 2024-01-09 11:25:02 26 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    是的,Flink CDC在处理PostgreSQL数据库时可能会遇到这个问题。这是因为Debezium Connector在尝试读取WAL(Write-Ahead Logging)文件时遇到了问题。这可能是由于WAL文件已经被删除或者损坏导致的。

    为了解决这个问题,你可以尝试以下方法:

    1. 确保WAL文件没有被其他进程删除或覆盖。如果有其他进程正在使用这个WAL文件,那么它可能无法被正确读取。

    2. 检查你的PostgreSQL数据库配置,确保archive_mode设置为on,并且archive_command指向一个有效的命令来归档WAL文件。例如,你可以使用pg_dumpall命令来归档WAL文件:

      archive_mode = on
      archive_command = 'cp %p /path/to/archive/directory'
      
    3. 如果问题仍然存在,你可以尝试升级Debezium Connector和PostgreSQL到最新版本,看看是否能解决这个问题。

    2024-01-09 15:34:18
    赞同 展开评论 打赏
  • 日志刷新太快了被刷掉了 ,此回答整理自钉群“Flink CDC 社区”

    2024-01-09 12:09:23
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载