flink on yarn 如何实现HA
已解决我们目前是使用的flink1.6.1 和2.8.1版本的hadoop,实验过程中发现正在运行的flink job会出现taskmanager丢失失去所有的slot的情况,所以想添加HA配置,但是有两个疑问:
1.flink on yarn的HA 是不是只有在jobmanager进程重启的时候才会触发,重新启动一个jobmanager并重新申请资源,如果jobmanager没有变化但taskmanager丢失,会不会为job重新申请计算资源
2.
这是在官网上HA的描述,请问如果没有使用yarn-session的方式,直接提交jar包,可以使用HA吗?
希望大佬可以帮忙解答,万分感谢!
展开
收起
1
条回答
写回答
写回答
-
采纳回答问题1：flink HA是在JM failover时发挥其作用，重启JM但会保持TM存活，有需要（例如过程中有TM failover）才会重新申请资源，没有需要则不会。JM不变TM丢失的场景跟HA无关，JM会重新申请资源
问题2: session和perjob两种方式都支持HA2019-07-17 23:26:50赞同 1 展开评论 打赏
问答地址：
开发者社区
>
大数据与机器学习
>
实时计算 Flink
>
问答
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
请问Flink 写数据到 ES 有遇到过这个报错的么？
2138
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1702
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
305
在建行，数据通常来源于哪些？
542
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3619
Flink如何配置Task Manager？
706
请教下，finksql 这个statettl 哪里设置
1614
Caused by: org.apache.kafka.common.errors.TimeoutE
3345
请问flink-connector-jdbc在sink时，如何设置批量写入？
3183
请问如何用flink sql客户端用yarn application模式提交任务呢？
1569
展开全部
OPPO数据中台之基石：基于Flink SQL构建实数据仓库
21935
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27979
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23414
接着！！Apache Flink 全领域干货合集（持续更新）
16526
基于实时计算（Flink）打造一个简单的实时推荐系统
14426
Flink Checkpoint 问题排查实用指南
13225
Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
18483
如何在 PyFlink 1.10 中自定义 Python UDF？
9001
咱们从头到尾讲一次 Flink 网络流控和反压剖析
6077
基于实时计算（Flink）与高斯模型构建实时异常检测系统
7992
展开全部
相关课程
更多
相关文章
相关电子书
更多
