【极数系列】ClassNotFoundException: org.apache.flink.connector.base.source.reader.RecordEmitter & 详细分析解决

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 【极数系列】ClassNotFoundException: org.apache.flink.connector.base.source.reader.RecordEmitter & 详细分析解决


01 Flink集成Kafka Connector运行报错

报错信息如下:

Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/flink/connector/base/source/reader/RecordEmitter
  at com.aurora.KafkaStreamingJob.main(KafkaStreamingJob.java:39)
Caused by: java.lang.ClassNotFoundException: org.apache.flink.connector.base.source.reader.RecordEmitter
  at java.base/jdk.internal.loader.BuiltinClassLoader.loadClass(BuiltinClassLoader.java:582)
  at java.base/jdk.internal.loader.ClassLoaders$AppClassLoader.loadClass(ClassLoaders.java:178)
  at java.base/java.lang.ClassLoader.loadClass(ClassLoader.java:521)
  ... 1 more

02 解决方案

引入Flink连接器基础依赖

<dependency>
            <groupId>org.apache.flink</groupId>
            <artifactId>flink-connector-base</artifactId>
            <version>1.18.0</version>
        </dependency>

03 原因分析

flink-connector-base模块主要是提供连接外部系统和数据源的基础功能,为其他具体的连接器模块提供了通用的接口和类。通过使用flink-connector-base,可以方便地实现自定义的连接器,并将Flink与各种外部系统集成起来,所以需要引用DataStream API,均需要加上此依赖。

04 深入认识

4.1 flink-connector-base简介概述

flink-connector-base是Apache Flink中的一个模块,它提供了连接外部系统和数据源的基础功能。它定义了一些通用的接口和类,用于实现不同类型的连接器。

4.2 flink-connector-base功能作用

(1)数据源和数据接收器

flink-connector-base定义了SourceFunction和SinkFunction接口,用于实现自定义的数据源和数据接收器。通过实现这些接口,可以将Flink与各种外部系统集成,例如消息队列、数据库、文件系统等。

(2)连接器的配置和参数

flink-connector-base提供了一些通用的配置类,用于配置连接器的参数。这些配置类包括ConnectorConfigOption、ConfigOption、ConfigOptions等,可以方便地管理连接器的配置信息。

(3)连接器的序列化和反序列化

flink-connector-base定义了一些序列化和反序列化的工具类,用于在连接器和Flink之间进行数据的传输和转换。这些工具类包括TypeInformation、TypeSerializer、TypeSerializerSchemaCompatibility等,可以确保数据在不同系统之间的兼容性。

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
11天前
|
自然语言处理 监控 数据挖掘
【Flink】Flink中的窗口分析
【4月更文挑战第19天】【Flink】Flink中的窗口分析
|
2月前
|
存储 Apache
Apache Hudi Savepoint实现分析
Apache Hudi Savepoint实现分析
36 0
|
2月前
|
Apache 索引
精进Hudi系列|Apache Hudi索引实现分析(五)之基于List的IndexFileFilter
精进Hudi系列|Apache Hudi索引实现分析(五)之基于List的IndexFileFilter
17 0
|
2月前
|
Apache
Apache Hudi Rollback实现分析
Apache Hudi Rollback实现分析
26 0
|
2月前
|
SQL 缓存 分布式计算
flink1.18 SqlGateway 的使用和原理分析
# 了解flink1.18 sqlGateway 的安装和使用步骤 # 启动sqlgateway 流程,了解核心的结构 # sql提交流程,了解sql 的流转逻辑 # select 查询的ResultSet的对接流程,了解数据的返回和获取逻辑
|
2月前
|
存储 SQL 消息中间件
Apache Hudi:统一批和近实时分析的存储和服务
Apache Hudi:统一批和近实时分析的存储和服务
36 0
|
2月前
|
缓存 Apache 索引
Apache Hudi索引实现分析(一)之HoodieBloomIndex
Apache Hudi索引实现分析(一)之HoodieBloomIndex
20 0
|
2月前
|
Apache 索引
Apache Hudi索引实现分析(二)之HoodieGlobalBloomIndex
Apache Hudi索引实现分析(二)之HoodieGlobalBloomIndex
27 0
|
2月前
|
存储 分布式数据库 Apache
Apache Hudi索引实现分析(三)之HBaseIndex
Apache Hudi索引实现分析(三)之HBaseIndex
23 0
|
2月前
|
分布式数据库 Apache 索引
精进Hudi系列|Apache Hudi索引实现分析(四)之基于Tree的IndexFileFilter
精进Hudi系列|Apache Hudi索引实现分析(四)之基于Tree的IndexFileFilter
20 0

推荐镜像

更多