kafka

简介:

introduction
对于流平台 有三个关键的作用
1.它允许发布和记录流 这方面有点像消息队列或者是信息系统
2.它运行以容错的机制存储流
3.允许处理流记录

好处
1.建立实时流数据管道在系统和引用之间
2.建立实时流应用用于转换或者响应数据

概念
kafka运行在集群上一个或者多个服务
kafka集群储存流记录在分类中这个分类被叫做topics
每条记录由key value 和shij时间戳组成

kafka有四个核心API

生产者 Producer API :允许发布流记录到topics上

消费者consummer API:允许一个应用赞成一个或者多个topics和流进程记录生产他们

流 Streams API 允许应用以处理器 消费输入流通过一个或者多个topics生产一个或者多个输出topic 可以有效地将输入流转换为输出流

连接 Connector API

kafka 的topic中存在的应用或者数据系统允许建立或者运行生产者或消费者 例如 age连接到关系型数据库兴许可以铺货所有改变的了的表.

在kafka中的客户端和服务器之间的信息交流通过一个简单 高效 与语烟无关的TCP 协议完成

核心抽象流记录到topic中

topic是一个分区或者命名为可以记录发布的分区

相关文章
|
12月前
|
消息中间件 存储 Kafka
Kafka详解
当今数字化世界中,数据的流动变得至关重要。为了满足不断增长的数据需求,企业需要强大而可靠的数据处理工具。Apache Kafka就是这样一个工具,它在数据流处理领域表现出色。本文将详细介绍Apache Kafka,探讨它的核心概念、用途以及如何使用它来构建强大的数据流应用。
|
1月前
|
消息中间件 Kafka
kafka里的acks是什么
【8月更文挑战第3天】kafka里的acks是什么
79 0
|
4月前
|
消息中间件 Java Kafka
Kafka
Kafka
35 1
|
4月前
|
消息中间件 存储 分布式计算
|
4月前
|
消息中间件 存储 Java
玩转Kafka—初步使用
玩转Kafka—初步使用
41 0
|
10月前
|
消息中间件 开发框架 Java
113 Kafka介绍
113 Kafka介绍
63 0
|
消息中间件 缓存 Java
Kafka介绍
Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。 Kafka是一种高吞吐量的分布式发布订阅消息系统,作为消息中间件来说都起到了系统间解耦、异步、削峰等作用,同时又提供了Kafka streaming插件包在应用端实现实时在线流处理,它可以收集并处理用户在网站中的所有动作流数据以及物联网设备的采样信息
151 0
|
消息中间件 分布式计算 Java
浅谈kafka 一
浅谈kafka 一
|
消息中间件 存储 缓存
kafka
kafka
346 0
|
消息中间件 存储 Kafka
kafka-初识kafka
- kafka是一个具有高吞吐,可水平扩展,可持久化的流式数据处理平台。 - kafka主要包括:消息系统、日志系统、流式处理平台、zookeeper 四大重要组件。 消息系统的重要概念:生产者(producer),消费者(customer),服务节点(broker)。消息系统中一个重要的原理:通过连通器原理实现了保持数据的一致性。
97 0
kafka-初识kafka