开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

哪位大佬遇见这种问题,flink on yarn(application提交)

image.png image.png image.png

展开
收起
游客6vdkhpqtie2h2 2022-09-20 06:23:29 950 0
9 条回答
写回答
取消 提交回答
  • 公众号:网络技术联盟站,InfoQ签约作者,阿里云社区签约作者,华为云 云享专家,BOSS直聘 创作王者,腾讯课堂创作领航员,博客+论坛:https://www.wljslmz.cn,工程师导航:https://www.wljslmz.com

    根据看到的日志,问题出现在Flink RPC的Akka模块上,可能由于缺少类引起的ClassNotFoundException。

    解决这个问题,可以尝试以下方法:

    1. 检查Flink版本是否与容器环境相匹配。确保使用的Flink版本与容器环境中的Hadoop版本和其他组件的版本兼容。

    2. 检查flink-dist.jar文件是否完整。有时文件损坏或未正确解压缩可能会导致类缺失。可以尝试删除flink-dist.jar文件并重新下载和解压缩它。

    3. 检查flink-rpc-akka.jar文件是否完整。同样,可以尝试删除该文件并重新下载和解压缩。

    4. 如果还是无法解决问题,可以考虑升级或降级Flink版本,或者尝试使用其他容器环境来运行Flink集群。

    2023-05-05 21:01:56
    赞同 展开评论 打赏
  • 天下风云出我辈,一入江湖岁月催,皇图霸业谈笑中,不胜人生一场醉。

    在 Flink on YARN 模式下,使用者需要创建一个 Flink Application,然后将其打包成一个 JAR 文件,然后通过 YARN 提交该 JAR 文件到 Hadoop 集群中。在提交过程中,需要指定一些参数,比如应用程序名称、应用程序主类、所需的容器和资源等。然后,YARN 会负责启动该应用程序,并分配所需的资源。一旦应用程序启动,就可以使用 Flink Web UI 或者 Flink 命令行工具来监控和管理应用程序。

    Flink on YARN 模式具有以下优点:

    集成性强:Flink on YARN 可以很好地与 Hadoop 生态系统进行集成,包括 HDFS、YARN 和 Hive 等。
    
    资源利用率高:由于 YARN 可以动态分配资源,因此 Flink on YARN 可以更加高效地利用集群资源。
    
    可伸缩性强:Flink on YARN 支持动态扩缩容,可以根据应用程序的需要自动调整容器的数量和分配的资源量。
    
    易于维护管理:通过使用 YARN,可以很方便地管理和监控 Flink 应用程序,同时还可以利用 Hadoop 的安全性和身份验证功能来保护数据的安全性。
    
    2023-04-27 08:56:04
    赞同 展开评论 打赏
  • 值得去的地方都没有捷径

    对于这个问题,可能有以下几种解决方案:

    确认Hadoop配置文件路径是否正确,是否存在 运行Flink时需要Hadoop配置文件,如果配置文件路径不正确或配置文件不存在,可能会导致报错。此时,可以确认一下配置文件路径是否正确,配置文件是否存在。

    检查环境变量是否正确设置 Hadoop配置文件路径可能是通过环境变量设置的,检查一下环境变量是否正确设置。

    确认Flink的Hadoop版本是否匹配 如果Flink的Hadoop版本与集群中的Hadoop版本不匹配,可能也会导致报错。此时,需要确认Flink的Hadoop版本是否与集群中的Hadoop版本匹配。

    确认yarn-site.xml文件是否存在 yarn-site.xml文件是Hadoop的配置文件之一,如果该文件不存在,可能会导致报错。此时,需要确认yarn-site.xml文件是否存在,并确认路径是否正确。

    检查是否有权限访问Hadoop配置文件 如果没有权限访问Hadoop配置文件,也会导致报错。此时,需要确认是否有权限访问Hadoop配置文件。

    综上所述,上述解决方案中的任一一个可能会解决该问题。

    2023-04-26 15:07:43
    赞同 展开评论 打赏
  • 这个问题可能是由于在Flink on Yarn中使用了Scala的版本不兼容导致的。建议您确认Flink版本和Scala版本是否兼容。Flink 1.13.x推荐使用Scala 2.12.x版本,Flink 1.14.x和1.15.x推荐使用Scala 2.12.x或者2.11.x版本。

    如果您的Flink版本和Scala版本是兼容的,那么可能是您的Flink on Yarn环境配置有问题。建议您尝试以下几个步骤来解决问题:

    1. 检查Flink on Yarn的Classpath是否正确配置。可以检查“flink-conf.yaml”文件中的“yarn.application.classpath”属性是否正确配置,确保包含了必要的依赖项。

    2. 检查集群的运行环境是否正确配置。可能会受到操作系统、JDK版本、内存、CPU等因素的影响。建议您检查Yarn的日志,查看是否有相关的错误信息。

    3. 确认Flink on Yarn的启动命令是否正确。建议您检查启动脚本中的相关配置参数,确保参数值正确。

    4. 确认Yarn配置是否正确。建议您检查Yarn的配置文件,确保Flink on Yarn的配置与Yarn的配置相匹配。

    5. 如果以上步骤无法解决问题,建议您尝试重新安装Flink on Yarn环境或者升级Flink和Scala的版本,以解决兼容性问题。

    如果您还遇到其他问题,可以查看Flink on Yarn的官方文档或者在Flink社区中寻求帮助。

    2023-04-24 23:30:13
    赞同 展开评论 打赏
  • 十分耕耘,一定会有一分收获!

    楼主你好,根据你的报错提示可以知道,在Flink运行的时候没有找到可以正常使用的Hadoop配置文件引起的报错,你可以查看一下Hadoop配置文件,以及设置的路径是否正确。

    2023-04-24 22:55:56
    赞同 展开评论 打赏
  • 全栈JAVA领域创作者

    根据截图,可以看到 Flink on Yarn 应用程序的日志中报告了 ClassNotFoundException 错误,该错误可能由于缺少相关类或 JAR 包导致。

    你可以尝试检查你的应用程序是否引用了缺少的类或库,或者在应用程序中的 Classpath 中添加缺少的 JAR 包,以解决这个问题。此外,还可以检查 YARN 集群的配置,确保所有节点上的环境变量和类路径设置正确。

    2023-04-24 08:02:19
    赞同 展开评论 打赏
  • 热爱开发

    这个错误信息看起来像是在使用 Flink on YARN 时,提交的应用程序在执行过程中出了问题。错误日志中的堆栈跟踪信息可能会提供有关问题的更多细节。

    首先,第一行提示 RM Home NodeManagerTools 显示了 4096 字节,但需要点击“Click here for full log”以获取完整的日志。建议查看完整日志以获取更多细节。

    接下来,错误信息中提到了一些类未找到的异常(ClassNotFoundException)。这可能表示应用程序正在尝试加载一些类,但无法找到这些类的定义。这可能是由于依赖项问题或类路径问题引起的。

    最后,如果您无法定位问题,可以尝试向 Flink 社区寻求帮助,或查看 Flink 官方文档以获取更多信息。

    2023-04-23 17:52:43
    赞同 展开评论 打赏
  • 这个问题是由Flink运行时环境没有找到正确的Hadoop配置文件引起的。在Flink on Yarn模式下,Flink需要依赖Hadoop的配置文件环境来设置HDFS、Yarn的配置信息。根据你提供的错误信息可以看出,Flink的运行环境找不到正确的hadoop配置文件。

    解决方法有以下两种:

    1. 在Flink on Yarn 任务配置文件中指定Hadoop配置文件的路径。可以在Flink的yarn-session配置文件中指定hadoop的配置文件路径,例如:
    env:
      hadoop-conf-dir: /path/to/hadoop/conf
    
    1. 将hadoop的配置文件复制到Flink on Yarn运行的每个节点上。在集群中每个节点上的Flink和Hadoop的配置文件应该一致,如果Flink的配置文件中没有指定hadoop的配置路径,就需要将Hadoop配置文件手动复制到每个节点上,并且将Hadoop配置文件的路径添加到系统环境变量中:
    export HADOOP_CONF_DIR=/path/to/hadoop/conf
    

    然后重新启动Flink on Yarn并提交应用程序即可。

    2023-04-23 17:16:52
    赞同 展开评论 打赏
  • 存在即是合理

    推测可能是以下几个方面引起的:

    1、Flink版本不兼容:你可能使用了不兼容的 Flink 版本。建议检查应用程序依赖的 Flink 版本是否与 Flink 集群版本匹配。如果版本不兼容,可能会导致许多奇怪的错误,包括无法访问 Web UI。

    2、应用程序配置错误:检查应用程序的配置文件,确保所有必需的配置都正确设置。特别是,检查是否有错误的端口号或其他不正确的配置参数。

    3、YARN配置错误:检查 YARN 集群的配置文件,确保所有必需的配置都正确设置。特别是,检查是否有错误的端口号或其他不正确的配置参数。

    2023-04-23 17:16:58
    赞同 展开评论 打赏
滑动查看更多

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    深度学习+大数据 TensorFlow on Yarn 立即下载
    Docker on Yarn 微服务实践 立即下载
    深度学习+大数据-TensorFlow on Yarn 立即下载