【kafka问题】记一次kafka消费者未接收到消息问题

简介: 出现了这样一个问题, A说他的kafka消息发送了; B说它没有接收到; 那么问题来了:• A的消息是否发送了?• 如果A的消息发送成功了; B为何没有消费到?好,带着上面的问题,我们来一步步排查一下问题所在

作者石臻臻, CSDN博客之星Top5Kafka Contributornacos Contributor华为云 MVP ,腾讯云TVP, 滴滴Kafka技术专家KnowStreaming


KnowStreaming  是滴滴开源的Kafka运维管控平台, 有兴趣一起参与参与开发的同学,但是怕自己能力不够的同学,可以联系我,当你导师带你参与开源!

出现了这样一个问题, A说他的kafka消息发送了; B说它没有接收到; 那么问题来了:

  • A的消息是否发送了?
  • 如果A的消息发送成功了; B为何没有消费到?

好,带着上面的问题,我们来一步步排查一下问题所在

1查询kafka消息是否发送成功

1.1.从头消费一下对应的topic;再查询刚刚发送的关键词

bin/kafka-console-consumer.sh --bootstrap-server xxx1:9092,xxx2:9092,xxx3:9092 --topic topic名称 -from-beginning

这里会把所有的kafaka接受到的消息(还存在磁盘上未被删除的)都打印出来; 这里太多了;我们加上一个 |grep 关键词 过滤一下就可以知道我们发的消息有没有发送成功了 这里打印出来的都是 在/data/tmp-log(这里路径是配置的)里面落盘的消息,只要落盘了就肯定发送成功了;

1.2 不从头消费 实时消费消息监听

如果消息太多了,消费的速度会很慢,那可以不从头消费,只有去掉 参数-from-beginning 就行了; 这个命令执行之后会一直在监听消息中;这个时候  重新发一条消息 查看一下是否消费到了刚刚发的消息;如果收到了,说明发送消息这一块是没有问题的;

2查询kafka消息是否被消费

要知道某条消息是否被消息,首先得知道是查被哪个消费组在消费;   比如 B的项目配置的kafka的group.id(这个是kafka的消费组属性)b-consumer-group ; 那么我们去看看 这个消费者组的消费情况

bin/kafka-consumer-groups.sh --bootstrap-server xxx1:9092,xxx2:9092,xxx3:9092 --describe --group b-consumer-group

这样查询出来的结果就是 b-consumer-group 消费组消费了哪些Topic; 如果想过滤某个TOPIC;可以加上|grep TOPIC名称 过滤一下;

bin/kafka-consumer-groups.sh --bootstrap-server xxx1:9092,xxx2:9092,xxx3:9092 --describe --group b-consumer-group |grep TOPIC名称

最终结果我查出来的是

上面每个参数的意思也写情况了; 上面可以看出来, 该TOPIC有三个Partition ; 然后有三个消费者分布在三台机器上;  并且 当前消费组偏移量=当前分区最新偏移量 ;这个说明什么?说明并没有消息未被消费 ;

很奇怪,不应该啊;生产者消息也能发送成功,消费组也消费了消息; 那么为什么B说他没有消费的消息呢?

那我们可以再验证一下, 让A再发一条消息; 看看Partition中的偏移量是否会增加; 发送之后执行命令查看结果

看到没有,从之前的1694变成了1695; 并且两者相同,那么百分之百可以确定,刚刚的消息是被 xxx.xx.xx.139这台消费者消费了;

那么问题就在139这个消费者身上了

经过后来排查,  139这台机器是属于另外一套环境;  但是该项目的kafka链接的zk跟 另外一套环境相同; 如果zk练的是同一个,并且消费者组名(group.id)也相同; 那么他们就属于同一个消费组了; 被其他消费者消费了,另外的消费组就不能够消费了!

所以,  不同环境之间的配置检查好不要串环境了,最好不同环境还是做好隔离!

3检查消费者的位置

其他一些有用的命令检查消费者的位置

相关文章
|
2月前
|
消息中间件 存储 负载均衡
Apache Kafka核心概念解析:生产者、消费者与Broker
【10月更文挑战第24天】在数字化转型的大潮中,数据的实时处理能力成为了企业竞争力的重要组成部分。Apache Kafka 作为一款高性能的消息队列系统,在这一领域占据了重要地位。通过使用 Kafka,企业可以构建出高效的数据管道,实现数据的快速传输和处理。今天,我将从个人的角度出发,深入解析 Kafka 的三大核心组件——生产者、消费者与 Broker,希望能够帮助大家建立起对 Kafka 内部机制的基本理解。
93 2
|
5月前
|
消息中间件 负载均衡 大数据
揭秘Kafka背后的秘密!再均衡如何上演一场消费者组的‘权力游戏’,让消息处理秒变高能剧情?
【8月更文挑战第24天】Kafka是一款在大数据处理领域备受推崇的产品,以其出色的性能和可扩展性著称。本文通过一个具体案例介绍其核心机制之一——再均衡(Rebalancing)。案例中,“user_activity”主题下10个分区被3个消费者均衡消费。当新消费者加入或原有消费者离开时,Kafka将自动触发再均衡过程,确保所有消费者能有效处理分配给它们的分区。
143 62
|
5月前
|
消息中间件 Kafka API
【Kafka消费新风潮】告别复杂,迎接简洁之美——深度解析Kafka新旧消费者API大比拼!
【8月更文挑战第24天】Apache Kafka作为一个领先的分布式流处理平台,广泛用于实时数据管道和流式应用的构建。随着其发展,消费者API经历了重大更新。旧消费者API(包括“低级”和“高级”API)虽提供灵活性但在消息顺序处理上存在挑战。2017年引入的新消费者API简化了接口,自动管理偏移量,支持更强大的消费组功能,显著降低了开发复杂度。通过对比新旧消费者API的代码示例可以看出,新API极大提高了开发效率和系统可维护性。
142 58
|
3月前
|
消息中间件 SQL 分布式计算
大数据-76 Kafka 高级特性 稳定性-消费重复 生产者、Broker、消费者 导致的重复消费问题
大数据-76 Kafka 高级特性 稳定性-消费重复 生产者、Broker、消费者 导致的重复消费问题
49 1
|
5月前
|
消息中间件 负载均衡 Kafka
【Kafka消费秘籍】深入了解消费者组与独立模式,掌握消息消费的两种超能力!
【8月更文挑战第24天】Apache Kafka是一款高性能的分布式消息系统,支持灵活多样的消费模型以适应不同的应用场景。消息按主题组织,每个主题可划分为多个分区,确保消息顺序性。本文深入探讨了Kafka中的两大核心消费模式:消费者组(Consumer Group)和独立消费者(Standalone Consumer)。消费者组允许多个消费者协同工作,实现负载均衡及故障恢复,是最常用的消费模式。独立消费者模式则适用于需要高度定制化处理逻辑的场景,如消息重放等。通过对比这两种模式的特点和提供的示例代码,开发者可以根据具体需求选择最合适的消费策略,从而更好地利用Kafka构建高效的数据流应用程序。
145 3
|
6月前
|
消息中间件 存储 负载均衡
深入理解Kafka核心设计及原理(三):消费者
深入理解Kafka核心设计及原理(三):消费者
105 8
|
5月前
|
图形学 C# 开发者
全面掌握Unity游戏开发核心技术:C#脚本编程从入门到精通——详解生命周期方法、事件处理与面向对象设计,助你打造高效稳定的互动娱乐体验
【8月更文挑战第31天】Unity 是一款强大的游戏开发平台,支持多种编程语言,其中 C# 最为常用。本文介绍 C# 在 Unity 中的应用,涵盖脚本生命周期、常用函数、事件处理及面向对象编程等核心概念。通过具体示例,展示如何编写有效的 C# 脚本,包括 Start、Update 和 LateUpdate 等生命周期方法,以及碰撞检测和类继承等高级技巧,帮助开发者掌握 Unity 脚本编程基础,提升游戏开发效率。
125 0
|
6月前
|
消息中间件 存储 Kafka
面试题Kafka问题之Kafka的消费者(Consumer)跟踪消息如何解决
面试题Kafka问题之Kafka的消费者(Consumer)跟踪消息如何解决
65 0
|
6月前
|
消息中间件 存储 资源调度
实时计算 Flink版产品使用问题之在消费Kafka的Avro消息,如何配置FlinkKafka消费者的相关参数
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
6月前
|
消息中间件 Java Kafka
使用Java编写Kafka生产者和消费者示例
使用Java编写Kafka生产者和消费者示例
109 0

热门文章

最新文章