kafka学习记录

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
云原生网关 MSE Higress,422元/月
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 消息系统kafka:支持协议仿AMQP,动态扩容(支持zk),支持负载均衡、集群。     (事物:多个全部提交,要么全部成功,要么全部失败。)AMQP: 高级消息队列   advanced message  queue  protocol。

spacer.gif

消息系统

kafka:支持协议仿AMQP,动态扩容(支持zk),支持负载均衡、集群。

     

(事物:多个全部提交,要么全部成功,要么全部失败。)

AMQP: 高级消息队列   advanced message  queue  protocol。

三个组件:

      broker即为一个实例

 

spacer.gif

kafka0.8 :  增加备份功能。

官方文档:  kafka.apache.org/documentation.html#quickstart

kafka集群搭建:

     1、搭建

     2、配置文件介绍

     

软件环境:linux ,需要有zookeeper集群,  版本选择0.8.1 ,kafka_源码包

配置文件:

     server.properties   

     (不推荐使用默认的zookeeper)

      broker.id=0    实例id 集群中的唯一标示

     prot=9092

      host.name=2.2.2.2  (把配置的话 ,会进行dns解析,会产生文件句柄数泄露,导致故障)

      message.max.byte=5M  每条消息最大5M

     log.dirs=dir1,dir2   消息 

     default.replication.factor=2 默认副本数

     replica.fethc.max.bytes=5M

      zookeeper.connect=1.1.1.1:2188,1.1.1.2:2188,1.1.1.3:2188  (zookeeper集群)

      log.retention.hours=168   默认存储7天。

      log.segment.bytes=111111111  文件大小

      log.cleaner.enable=false    log压缩功能

     consumer.properties

      group.id=test1group 

     producer.properties

       producer.type=sync   同步     发送方式

        compression.codec   压缩方式

      

日志:

          server.log  运行日志

          controler.log  控制机器日志

          

     

启动:

     kafka-server-start.sh  -daemon .../config/server.properties

      以后台进程方式启动

创建一个topic:

     ./kafka-topics.sh   --create --zookeeper localhost:2181 --replication-factor 2  --partitions 1   --topic test

查看topic:

      ./kafka-topic.sh --list --zookeeper localhost:2181

启动comsumer.sh程序  (消息订阅)

     ./kafka-console-consumer.sh --zookeeper localhost:2181  --topic  test  --from-beginning 

启动producer程序 (消息发送)

      ./kafka-console-producer.sh --broker-list 2.2.2.2:9092 --topic test   

       

查询topic:

    


目录
相关文章
|
2月前
|
消息中间件 大数据 Kafka
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现(二)
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现(二)
31 2
|
2月前
|
消息中间件 NoSQL 大数据
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现(一)
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现(一)
39 1
|
7月前
|
消息中间件 存储 负载均衡
消息队列学习之kafka
【4月更文挑战第2天】消息队列学习之kafka,一个分布式的,支持多分区、多副本,基于 Zookeeper 的分布式消息流平台。
66 2
|
7月前
|
消息中间件 存储 缓存
闭关学习一周kafka,原来他这么快是有原因的!
无论 kafka 作为 MQ 也好,作为存储层也罢,无非就是两个功能(好简单的样子),一是 Producer 生产的数据存到 broker,二是 Consumer 从 broker 读取数据。那 Kafka 的快也就体现在读写两个方面了,下面我们就聊聊 Kafka 快的原因。
63 1
|
消息中间件 负载均衡 Kafka
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(一)
Kafka学习---2、kafka生产者、异步和同步发送API、分区、生产经验(一)
|
7月前
|
消息中间件 负载均衡 Kafka
Kafka学习---消费者(分区消费、分区平衡策略、offset、漏消费和重复消费)
Kafka学习---消费者(分区消费、分区平衡策略、offset、漏消费和重复消费)
749 2
|
消息中间件 存储 分布式计算
Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(二)
Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(二)
|
消息中间件 缓存 大数据
Kafka学习---1、Kafka 概述、Kafka快速入门
Kafka学习---1、Kafka 概述、Kafka快速入门
Kafka学习---1、Kafka 概述、Kafka快速入门
|
消息中间件 分布式计算 Kafka
Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(一)
Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(一)
|
消息中间件 算法 关系型数据库
Kafka学习---4、消费者(分区消费、分区平衡策略、offset、漏消费和重复消费)(二)
Kafka学习---4、消费者(分区消费、分区平衡策略、offset、漏消费和重复消费)(二)