我有个问题,Flink CDC 用yarn jar执行普通java 打的jar包,是集群模式吗,这时

我有个问题,Flink CDC 用yarn jar执行普通java 打的jar包,是集群模式吗,这时用的是集群资源还是单台机器的资源

展开
收起
真的很搞笑 2023-04-26 13:53:59 138 分享 版权
阿里云 AI 助理回答

Flink CDC(Change Data Capture)通常与Apache Flink的流处理能力结合使用,以捕获数据库的变化数据。当您提到使用yarn jar命令执行一个普通的Java打包的JAR文件时,这实际上是指在Hadoop YARN集群上运行该作业。YARN(Yet Another Resource Negotiator)是Hadoop的一个资源管理器,它能够管理集群中的资源并为各种应用程序(包括但不限于Flink作业)提供所需的计算资源。

在这种情况下,您的Flink作业会以集群模式运行,这意味着它将利用整个YARN集群的资源,而不是单台机器的资源。YARN负责作业的资源分配、调度和监控,确保任务在集群中各个节点上正确分布和执行。因此,通过YARN提交的Flink作业能够实现水平扩展,利用集群中多个节点的CPU、内存等资源来处理大规模数据流。

简而言之,使用yarn jar执行的Flink作业确实是在集群模式下运行,并且消耗的是整个YARN集群的资源,而非局限于单个节点。

有帮助
无帮助
AI 助理回答生成答案可能存在不准确,仅供参考
0 条回答
写回答
取消 提交回答

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

还有其他疑问?
咨询AI助理