开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

大佬些,flinkcdc任务提交到yarn,有遇到这个问题吗 ?

大佬些,flinkcdc任务提交到yarn,有遇到这个问题吗 ?image.png

展开
收起
真的很搞笑 2023-08-01 15:23:04 114 0
1 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    可能是由于缺少必要的依赖包或者版本不一致导致的。在提交Flink CDC任务到YARN时,需要确保所有的依赖包都已经正确打包和上传,并且与目标环境中的版本匹配。
    https://help.aliyun.com/document_detail/456682.html?spm=a2c4g.435545.0.i5
    image.png

    建议检查以下几个方面:

    检查依赖包:确认所有需要的依赖包都已经正确打包,并且上传到了Flink集群和YARN环境中。可以使用mvn dependency:tree命令查看项目依赖关系,并确保所有依赖包的版本正确。

    检查版本匹配:确认Flink CDC和Debezium等相关依赖包的版本与目标环境中的版本匹配。可以查看Flink和Debezium的文档,了解它们的版本要求和兼容性。

    检查配置文件:确认Flink CDC任务的配置文件正确,包括数据库连接信息、Kafka连接信息、序列化器等相关参数。

    检查网络连接:确认Flink集群和YARN环境之间的网络连接正常,并且没有被防火墙等安全措施阻断。

    https://help.aliyun.com/document_detail/435545.html?spm=a2c4g.456682.0.i4
    image.png

    2023-08-01 17:53:05
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
深度学习+大数据 TensorFlow on Yarn 立即下载
Docker on Yarn 微服务实践 立即下载
深度学习+大数据-TensorFlow on Yarn 立即下载