开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC3.0的官方demo怎么在flink k8s里面跑起来呢?

Flink CDC3.0的官方demo怎么在flink k8s里面跑起来呢?有大佬赐教下吗?

展开
收起
cuicuicuic 2023-12-20 08:27:01 76 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    在Kubernetes(K8s)上运行Flink CDC 3.0的官方demo,首先需要准备一个Flink集群。在K8s中部署Flink集群有两种主要方式:Standalone方式和Native Integration方式。

    对于Standalone方式,其优势在于不需要对Flink做任何改动,同时Flink对K8s集群是无感知的,只需通过外部手段即可让Flink运行起来。这种方式的实施步骤包括:首先往K8s集群提交资源描述文件,之后会启动Master和Worker的container。Master Container中会启动Flink Master Process,包含Flink-Container ResourceManager、JobManager和Program Runner。

    对于Native Integration方式,它则是直接在Kubernetes上运行Flink任务,无需预先安装和配置Flink Standalone或YARN集群。这种方式更适合生产环境,特别是对于大规模数据处理和分析的场景。

    2023-12-20 14:24:11
    赞同 展开评论 打赏
  • 3.0 cdc 的jar 包 放到 /opt/flink/lib 重启flink 容器 就可以了。 需要注意的是 你的sql-client 要在有jar包的容器中 起,3.0中的pipeline连接器不是这种操作,目前如果想一起部署在k8s里面官方还没出教程,确实不好搞,还有基于pipeline连接器如何从savepoint启动都是目前群友们想解决的问题 ,此回答整理自钉群“Flink CDC 社区”

    2023-12-20 09:57:17
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载

    相关镜像