开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC 我提交任务到k8s上运行。但里面设置的checkpoint的时间间隔一直不生效?

Flink CDC 我提交任务到k8s上运行。但里面设置的checkpoint的时间间隔一直不生效?(我在代码中设置的是720000ms,720s但是web界面显示的是默认值30s,如下图),请问如何使这个值生效呀?我的任务提交语句是./bin/flink run-application --target kubernetes-application --parallelism 3 -Dkubernetes.cluster-id=cluster231205bb -Dkubernetes.namespace=flink -Dkubernetes.rest-service.exposed.type=NodePort -Dkubernetes.jobmanager.service-account=flink-service-account -Dkubernetes.container.image.ref=swr.cn-north-4.myhuaweicloud.com/commons/toll_pro_04:1.17.1 -Dkubernetes.container.image.pull-secrets=regcred3 -Dtaskmanager.memory.process.size=12000m -Dtaskmanager.memory.managed.size=10m -Dtaskmanager.memory.network.max=65m -Dtaskmanager.numberOfTaskSlots=3 --pyModule ls_card_blacklist_32 --pyFiles /opt/python_codes/ls_card_blacklist_32.pyimage.png

展开
收起
真的很搞笑 2023-12-11 13:27:42 72 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    要使Flink CDC的checkpoint时间间隔生效,您需要在提交任务时设置taskmanager.state.backend.rocksdb.checkpointdir参数。请尝试将以下参数添加到您的提交语句中:

    -Dtaskmanager.state.backend.rocksdb.checkpointdir=hdfs://your_hdfs_path/checkpoints
    

    your_hdfs_path替换为您的HDFS路径。这样,Flink CDC将会在指定的HDFS路径下创建checkpoint目录,并根据您设置的时间间隔进行checkpoint。

    2023-12-12 17:35:55
    赞同 展开评论 打赏
  • 你的提交任务语句中没有包含设置 checkpoint 时间间隔的参数呀?
    -Dstate.checkpoints.interval=720000 ,此回答整理自钉群“Flink CDC 社区”

    2023-12-11 22:01:46
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载

    相关镜像