开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC 就报这个错,这个有人碰到过吗?

Flink CDC 2023-11-17 08:29:02,470 INFO org.apache.flink.runtime.executiongraph.ExecutionGraph [] - Source: t_a_sync_table[5] (1/1) (97b0c6d60d7c71e3ded020b3ee68a063_bc764cd8ddf7a0cff126f51c16239658_0_7) switched from RUNNING to FAILED on 10.44.0.21:45492-71b1c1 @ 10.44.0.21 (dataPort=44245).
java.lang.NoClassDefFoundError: Could not initialize class io.debezium.connector.sqlserver.SqlServerConnectorConfig
at io.debezium.connector.sqlserver.SqlServerConnector.taskConfigs(SqlServerConnector.java:62) ~[flink-sql-connector-sqlserver-cdc-2.4.2.jar:2.4.2]
at io.debezium.embedded.EmbeddedEngine.run(EmbeddedEngine.java:729) ~[flink-sql-connector-mysql-cdc-2.2.1.jar:2.2.1]

我们的环境里需要同时采集mysql与sqlserver,现在发现把mysql-connector的胖包放进去,就报这个错,这个有人碰到过吗?

展开
收起
真的很搞笑 2023-11-22 09:26:26 82 0
3 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    从您的日志来看,问题可能是由于同时加载了MySQL和SQL Server连接器的胖包导致的。这是因为两个连接器可能使用了一些相同的类名,但在实际实现上有所不同,这可能会导致NoClassDefFoundError。
    要解决这个问题,您可以尝试以下方法:

    1. 单独为每个数据源使用相应的连接器胖包。例如,如果您正在使用Flink SQL,那么可以在创建表的时候指定对应的connector fat jar,如CREATE TABLE mysqlTable (... WITH ('connector' = 'mysql-cdc', ...))CREATE TABLE sqlserverTable (... WITH ('connector' = 'sqlserver-cdc', ...))
    2. 如果无法单独使用各自的连接器胖包,请尝试更改其中一个连接器的命名空间以避免冲突。例如,您可以将其中的一个连接器重命名为一个独特的名称(如my_sql_server_cdc),然后在创建表时指定该连接器。
    2023-11-29 13:42:38
    赞同 展开评论 打赏
  • 这个错误是由于Flink CDC在运行时找不到io.debezium.connector.sqlserver.SqlServerConnectorConfig类导致的。要解决这个问题,你需要确保你的项目中包含了flink-connector-sqlserver依赖。

    你可以尝试以下方法:

    1. 确保你的项目中包含了flink-connector-sqlserver的依赖。你可以在项目的pom.xml文件中添加以下依赖:
    <dependency>
      <groupId>io.debezium</groupId>
      <artifactId>flink-connector-sqlserver</artifactId>
      <version>2.4.2</version>
    </dependency>
    
    1. 如果问题仍然存在,尝试清理并重新构建项目。在IDE中,通常可以右键点击项目名,然后选择"Clean"和"Rebuild"。或者在命令行中执行以下命令:
    mvn clean install
    
    1. 如果以上方法都无法解决问题,可以考虑使用其他版本的flink-connector-sqlserver,例如:
    <dependency>
      <groupId>io.debezium</groupId>
      <artifactId>flink-connector-sqlserver</artifactId>
      <version>2.3.0</version>
    </dependency>
    
    2023-11-29 12:01:21
    赞同 展开评论 打赏
  • 他这个是不同版本造成的问题,ecf5a898f465df04f3ff0cde7769ace5.png
    cdc只能用一个版本哈
    比如要是2.4.2,都是2.4.2,不能一个2.4.2 一个2.2.1
    除非你用ds作业,依赖打进jar独立运行,这种也是推荐的方式,此回答整理自钉群“Flink CDC 社区”

    2023-11-22 12:08:39
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载