Flink CDC3.0的官方demo怎么在flink k8s里面跑起来呢?有大佬赐教下吗?
在Kubernetes(K8s)上运行Flink CDC 3.0的官方demo,首先需要准备一个Flink集群。在K8s中部署Flink集群有两种主要方式:Standalone方式和Native Integration方式。
对于Standalone方式,其优势在于不需要对Flink做任何改动,同时Flink对K8s集群是无感知的,只需通过外部手段即可让Flink运行起来。这种方式的实施步骤包括:首先往K8s集群提交资源描述文件,之后会启动Master和Worker的container。Master Container中会启动Flink Master Process,包含Flink-Container ResourceManager、JobManager和Program Runner。
对于Native Integration方式,它则是直接在Kubernetes上运行Flink任务,无需预先安装和配置Flink Standalone或YARN集群。这种方式更适合生产环境,特别是对于大规模数据处理和分析的场景。
3.0 cdc 的jar 包 放到 /opt/flink/lib 重启flink 容器 就可以了。 需要注意的是 你的sql-client 要在有jar包的容器中 起,3.0中的pipeline连接器不是这种操作,目前如果想一起部署在k8s里面官方还没出教程,确实不好搞,还有基于pipeline连接器如何从savepoint启动都是目前群友们想解决的问题 ,此回答整理自钉群“Flink CDC 社区”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。