开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC这个问题怎么解决?

Flink CDC这个问题怎么解决?
82c88e8e354291a25b3d4bcaee6893ca.png
我这里配置是这样的,为啥提交sql 任务的时候,还是出现
74cd0f340defc50c87337258a544e89d.png

展开
收起
十一0204 2023-08-09 09:57:59 65 0
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    根据错误日志,这个问题可能是Flink checkpoint持久化失败导致的。

    一些解决方案:

    检查状态后端(如RocksDB)目录是否有读写权限

    调整checkpoint参数,如并发数、超时时间等

    使用未对齐检查点降低checkpoint压力

    启用RocksDB压缩可以减小checkpoint数据量

    设置更大的RocksDB block大小

    检查任务是否有状态倾斜问题

    简化状态只检查关键字段

    升级RocksDB/Flink版本在兼容性

    调整任务并发数或者并行度

    使用异步IO缓解IO压力

    建议从checkpoint参数、状态后端性能、任务部署等角度进行优化。

    可以通过打印checkpoint细节排查原因,如IO等待等指标。

    2023-08-10 23:23:00
    赞同 展开评论 打赏
  • 意中人就是我呀!

    如果开启uk不能这样设置。此回答整理至钉群“Flink CDC 社区”。

    2023-08-09 12:18:06
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载