开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

我设置的Hadoop3.3.3是HA,2个NamNode节点,分别had21nn和had21dn1。

我设置的Hadoop3.3.3是HA,2个NamNode节点,分别had21nn和had21dn1。每次启动的时候,不知道这2个NameNode到底是哪个是active。

我要设置Flink的Checkpoint的存储路径在HDFS上,我想让它自动识别。

如果had21nn是active,设置checkpoint.setCheckpointStorage("hdfs://had21nn:8020/flink/checkpoint/");是可以的。

但是,如果集群下次启动的时候是had21dn1是active,设置checkpoint.setCheckpointStorage("hdfs://had21nn:8020/flink/checkpoint/");就找不到了。 还是修改为checkpoint.setCheckpointStorage("hdfs://had21dn1:8020/flink/checkpoint/");

我设置checkpoint.setCheckpointStorage("hdfs://mycluster/flink/checkpoint/"); Flink不能自动根据hdfs://mycluster去识别hdfs://had21nn:8020还是hdfs://had21dn1。

怎么能让Flink自动识别Hadoop HA的路径呢?

展开
收起
云上静思 2022-12-29 10:04:26 1081 0
2 条回答
写回答
取消 提交回答
  • flink应该支持HA吧,你可以启动之前使用web链接hdfs,获取那个是HA,然后传参给flink应用程序就好了

    此答案来自钉钉群“【2】Apache Flink China 社区"

    2022-12-30 10:16:45
    赞同 展开评论 打赏
  • 可以使用Hadoop的虚拟节点功能来让Flink自动识别Hadoop HA的路径。 在Hadoop HA环境中,虚拟节点是一个用于访问Active Namenode的虚拟URL。 当Active Namenode更改时,虚拟节点会自动更新为指向新的Active Namenode。

    2022-12-29 20:37:57
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
《构建Hadoop生态批流一体的实时数仓》 立即下载
零基础实现hadoop 迁移 MaxCompute 之 数据 立即下载
CIO 指南:如何在SAP软件架构中使用Hadoop 立即下载

相关实验场景

更多