开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC按你上午的那种配置写法,我把整个flink环境重启了他才生效的。但又没完全起作用?

Flink CDC按你上午的那种配置写法,我把整个flink环境重启了他才生效的。但又没完全起作用,我配了3个,刚开始他突破到了4个,后来又失败稳定在3个了。如果flink之前已经按默认20个提交过任务,即使把所有的任务都退出,重新提交新的任务都设置的3也是不起作用的,我依然提交了9个任务。重启之后所有任务都设置3,后面的任务运行就总是失败了?a5723694e6c98f9412f6c1bd2ac7fc9b.png
2548e9b39415af4bb5fd149c198aac7d.png

展开
收起
cuicuicuic 2023-08-29 12:00:30 47 0
1 条回答
写回答
取消 提交回答
  • 您好,Flink CDC 需要把数据从 Kafka 读取到 Flink 集群,然后再从 Flink 集群写入 Elasticsearch。如果您重启了 Flink 集群,那么 Flink CDC 会重新读取 Kafka 中的所有数据,并将数据写入 Elasticsearch。如果您没有重启 Elasticsearch 集群,那么 Flink CDC 写入 Elasticsearch 的数据可能不会立即出现。您可以尝试等待一段时间,或者重启 Elasticsearch 集群。如果仍然有问题,您可以提交一个 issue 来寻求帮助。

    2023-09-20 10:33:58
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载