开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink cdc 3.0 能提交到yarn per job模式吗?

flink cdc 3.0 通过./fink-cdc.sh conf/mysql-doris.yaml能提交到yarn per job模式吗?还是说要打成jar包用flink 命令去启动?

展开
收起
小小鹿鹿鹿 2024-02-01 16:19:09 120 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC 3.0 的 ./flink-cdc.sh 脚本主要用于本地模式(local)和集群模式(cluster)的提交。要提交到 YARN per job 模式,您需要将 Flink CDC 作业打包成 JAR 文件,然后使用 Flink 命令行工具进行提交。

    以下是将 Flink CDC 作业打包成 JAR 文件并提交到 YARN per job 模式的步骤:

    1. 首先,确保您的项目中包含了所有必要的依赖,包括 Flink CDC 和其他相关库。

    2. 使用 Maven 或 Gradle 等构建工具将项目打包成 JAR 文件。例如,对于 Maven,您可以运行以下命令:

      mvn clean package
      

      这将在项目的 target 目录下生成一个 JAR 文件,例如 your-project-1.0-SNAPSHOT.jar

    3. 使用 Flink 命令行工具提交 JAR 文件到 YARN per job 模式。假设您的 JAR 文件位于 /path/to/your-project-1.0-SNAPSHOT.jar,您可以运行以下命令:

      flink run -m yarn-session -yn 1 -yjm 1024 -ytm 1024 -c your.main.class /path/to/your-project-1.0-SNAPSHOT.jar
      

      其中,your.main.class 是您的 Flink CDC 作业的主类。其他参数可以根据实际需求进行调整。

    这样,您的 Flink CDC 作业就会被提交到 YARN per job 模式。

    2024-02-02 14:32:59
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    深度学习+大数据 TensorFlow on Yarn 立即下载
    Docker on Yarn 微服务实践 立即下载
    深度学习+大数据-TensorFlow on Yarn 立即下载