kafka-初识kafka

简介: - kafka是一个具有高吞吐,可水平扩展,可持久化的流式数据处理平台。- kafka主要包括:消息系统、日志系统、流式处理平台、zookeeper 四大重要组件。 消息系统的重要概念:生产者(producer),消费者(customer),服务节点(broker)。消息系统中一个重要的原理:通过连通器原理实现了保持数据的一致性。

初识kafka

  • kafka是一个具有高吞吐,可水平扩展,可持久化的流式数据处理平台。
  • kafka主要包括:消息系统、日志系统、流式处理平台、zookeeper 四大重要组件。

    消息系统的重要概念:生产者(producer),消费者(customer),服务节点(broker)。消息系统中一个重要的原理:通过连通器原理实现了保持数据的一致性。

日志系统的重要概念:副本、主题、分区、时间轮。日志持久化在磁盘中从而保证了数据的稳定性和可持久化,同时大量使用页存储从达到了消息的高吞吐。

流式处理平台:kafka不仅是一个消息中间件,还是一个可提供消息聚合、连接、变换的流式数据处理平台。

# kafka体系结构

Kafka体系结构.png

  • kafka体系结构主要由若干producer、若干customer、若干broker 三大模块构成,并由zookeeper进行协调并管理集群元数据。
  • producer生成消息发送到broker中,broker将消息存储在磁盘(kafka用磁盘作为主要的存储介质),customer从broker订阅并消费消息。
目录
相关文章
|
消息中间件 存储 Kafka
Kafka详解
当今数字化世界中,数据的流动变得至关重要。为了满足不断增长的数据需求,企业需要强大而可靠的数据处理工具。Apache Kafka就是这样一个工具,它在数据流处理领域表现出色。本文将详细介绍Apache Kafka,探讨它的核心概念、用途以及如何使用它来构建强大的数据流应用。
|
4月前
|
消息中间件 缓存 算法
kafka(三)
kafka(三)
|
4月前
|
消息中间件 存储 缓存
kafka(一)
kafka(一)
|
8月前
|
消息中间件 Java Kafka
Kafka
Kafka
61 1
|
8月前
|
消息中间件 存储 Java
玩转Kafka—初步使用
玩转Kafka—初步使用
58 0
|
消息中间件 缓存 算法
Kafka为什么这么快?
Kafka 是一个基于发布-订阅模式的消息系统,它可以在多个生产者和消费者之间传递大量的数据。Kafka 的一个显著特点是它的高吞吐率,即每秒可以处理百万级别的消息。那么 Kafka 是如何实现这样高得性能呢?本文将从七个方面来分析 Kafka 的速度优势。
87 1
|
消息中间件 开发框架 Java
113 Kafka介绍
113 Kafka介绍
90 0
|
消息中间件 缓存 Java
Kafka介绍
Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。 Kafka是一种高吞吐量的分布式发布订阅消息系统,作为消息中间件来说都起到了系统间解耦、异步、削峰等作用,同时又提供了Kafka streaming插件包在应用端实现实时在线流处理,它可以收集并处理用户在网站中的所有动作流数据以及物联网设备的采样信息
183 0
|
消息中间件 分布式计算 Java
浅谈kafka 一
浅谈kafka 一
|
消息中间件 存储 缓存
kafka
kafka
372 0