开发者社区> 问答> 正文

flink中公司怎么提交的实时任务,有多少 Job Manager?

flink中公司怎么提交的实时任务,有多少 Job Manager?

展开
收起
游客qzzytmszf3zhq 2021-12-07 19:59:39 687 0
1 条回答
写回答
取消 提交回答
    1. 我们使用 yarn session 模式提交任务。每次提交都会创建一个新的 Flink 集群,为每一个 job 提供一个 yarn-session,任务之间互相独立,互不影响, 方便管理。任务执行完成之后创建的集群也会消失。线上命令脚本如下: bin/yarn-session.sh -n 7 -s 8 -jm 3072 -tm 32768 -qu root.. -nm - -d 其中申请 7 个 taskManager,每个 8 核,每个 taskmanager 有 32768M 内存。

    2. 集群默认只有一个 Job Manager。但为了防止单点故障,我们配置了高可用。 我们公司一般配置一个主 Job Manager,两个备用 Job Manager,然后结合 ZooKeeper 的使用,来达到高可用。

    2021-12-07 20:10:17
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载