在Kubernetes上运行Flink应用程序时

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 【2月更文挑战第27天】在Kubernetes上运行Flink应用程序时

在Kubernetes上运行Flink应用程序时,你可以使用Flink Kubernetes Client提供的命令来提交作业。这些命令允许你指定额外的JAR文件和其他资源。

例如,你可以使用以下命令来提交一个Flink作业,同时指定一个额外的JAR文件:

./bin/flink run-cluster -Dkubernetes.cluster.id=<cluster_id> -Dkubernetes.namespace=<namespace> -Djobmanager.rpc.address=<jobmanager_hostname> -Djobmanager.execution.numberOfTaskSlots=<number_of_task_slots> -Drest.port=<rest_port> -Dparallelism.default=<parallelism> -Dstate.backend=filesystem -Dstate.fs.backend.file-system=hdfs://namenode:8020 -Dstate.fs.backend.checkpoint-dir=hdfs://namenode:8020/flink-checkpoints -Dstate.fs.backend.savepoint-dir=hdfs://namenode:8020/flink-savepoints -Dtaskmanager.numberOfTaskSlots=<number_of_task_slots> <your_jar_path> --class <main_class> --jar <extra_jar>

在这个命令中,<your_jar_path>是你的Flink作业的JAR文件的路径,<extra_jar>是你想要附加的额外JAR文件的路径。

请注意,你需要在你的Flink配置文件中启用额外的JAR支持。你可以在flink-conf.yaml文件中设置jobmanager.execution.additional-classpaths属性来添加额外的JAR文件。

当你在Flink客户端提交一个作业到JobManager时,客户端会执行一系列的步骤来将你的作业发送到JobManager:

  1. 准备作业:客户端首先会解析你提交的命令行参数,并准备你的作业。这包括加载你的代码,解析你的配置,等等。

  2. 打包作业:然后,客户端会将你的作业打包成一个JAR文件。这个JAR文件包含了你的代码,依赖库,配置,等等。

  3. 发送作业:最后,客户端会将这个JAR文件发送到JobManager。JobManager会接收这个JAR文件,并在其上执行你的作业。

这个过程是通过Flink的网络协议完成的。Flink的客户端和服务端之间有一个网络连接,客户端可以通过这个连接将JAR文件发送到JobManager。

请注意,这个过程是在你的Flink安装的bin目录下的flink脚本中自动处理的。你不需要手动执行这些步骤。你只需要在你的客户端运行flink run命令,然后提交你的作业,Flink会自动处理剩下的工作。

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
目录
相关文章
|
4月前
|
JSON Kubernetes Shell
【Azure K8S | AKS】在不丢失文件/不影响POD运行的情况下增加PVC的大小
【Azure K8S | AKS】在不丢失文件/不影响POD运行的情况下增加PVC的大小
|
2月前
|
Kubernetes 监控 Cloud Native
|
2月前
|
消息中间件 监控 Java
大数据-109 Flink 体系结构 运行架构 ResourceManager JobManager 组件关系与原理剖析
大数据-109 Flink 体系结构 运行架构 ResourceManager JobManager 组件关系与原理剖析
71 1
|
2月前
|
Kubernetes Cloud Native 流计算
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
77 3
|
3月前
|
Kubernetes 应用服务中间件 nginx
Kubernetes上安装Metallb和Ingress并部署应用程序
Kubernetes上安装Metallb和Ingress并部署nginx应用程序,使用LoadBalancer类型的KubernetesService
173 7
|
4月前
|
Kubernetes 负载均衡 数据中心
在K8S中,在主机和容器上部署应用程序有什么区别?
在K8S中,在主机和容器上部署应用程序有什么区别?
|
4月前
|
Kubernetes API Perl
在K8S中,如何让Pod运行一次?如何解决一次性任务?
在K8S中,如何让Pod运行一次?如何解决一次性任务?
|
4月前
|
消息中间件 监控 关系型数据库
实时计算 Flink版产品使用问题之运行后,怎么进行监控和报警
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
4月前
|
Kubernetes Java 数据库连接
实时计算 Flink版产品使用问题之部署到 Kubernetes 集群时,任务过一会儿自动被取消,该如何排查
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
13天前
|
Kubernetes 监控 Cloud Native
Kubernetes集群的高可用性与伸缩性实践
Kubernetes集群的高可用性与伸缩性实践
46 1