kafka zookeeper配置初步

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介:

1.软件需求

CentOS 7.2 X64

jdk-8u121-linux-x64.rpm

zookeeper-3.4.9.tar.gz

kafka_2.11-0.10.1.0.tgz

setuptools-33.1.1.zip 

kafka-python-1.3.2.tar.gz


2.安装zookeeper、kafka

1).zookeeper

# tar -zxf zookeeper-3.4.9.tar.gz

# mv zookeeper-3.4.9 /usr/local/zookeeper

# mkdir -p /var/lib/zookeeper

# cat > /usr/local/zookeeper/conf/zoo.cfg << EOF

tickTime=2000

dataDir=/var/lib/zookeeper

clientPort=2181

EOF


# /usr/local/zookeeper/bin/zkServer.sh start

ZooKeeper JMX enabled by default

Using config: /usr/local/zookeeper/bin/../conf/zoo.cfg

Starting zookeeper ... STARTED

#


2).kafka

# tar -zxf kafka_2.11-0.10.1.0.tgz

# mv kafka_2.11-0.10.1.0 /usr/local/kafka

# mkdir /tmp/kafka-logs


# /usr/local/kafka/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic telematics

fCreated topic "telematics".

#


3.create topics

# /usr/local/kafka/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic telematics


4.topic操作

1).list topic

# /usr/local/kafka/bin/kafka-topics.sh --zookeeper localhost:2181 --list

telematics


2).describe topic

# /usr/local/kafka/bin/kafka-topics.sh --zookeeper localhost:2181 --describe --topic telematics

Topic:telematics        PartitionCount:1        ReplicationFactor:1     Configs:

        Topic: telematics       Partition: 0    Leader: 0       Replicas: 0     Isr: 0

#

3).delete topic

#/usr/local/kafka/bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic telematics


5.添加选项执行删除命令时生效,否则只是标记为删除

/usr/local/kafka/config/server.properties

delete.topic.enable=true


6.测试脚本

1). producer.py 

#!/usr/bin/python


from kafka import KafkaProducer

producer = KafkaProducer(bootstrap_servers='192.168.1.201:9092')


producer = KafkaProducer(key_serializer=str.encode, value_serializer=str.encode)

producer.send('telematics', key='ping', value=b'1234')


2). consumer.py

from kafka import KafkaConsumer

# To consume latest messages and auto-commit offsets

consumer = KafkaConsumer('telematics',bootstrap_servers=['192.168.1.201:9092'])

for message in consumer:

    # message value and key are raw bytes -- decode if necessary!

    # e.g., for unicode: `message.value.decode('utf-8')`

    print ("%s:%d:%d: key=%s value=%s" % (message.topic, message.partition,

                                          message.offset, message.key,

                                          message.value))


本文转自 pgmia 51CTO博客,原文链接:http://blog.51cto.com/heyiyi/1892992


相关文章
|
1月前
|
消息中间件 Java Kafka
关于kafka消费者超时配置
关于kafka消费者超时配置
69 2
|
2月前
|
消息中间件 安全 Kafka
一文搞懂Kafka中的listeners配置策略
1. listeners中的plaintext controller external是什么意思? 2. Kraft模式下controller和broker有何区别? 3. 集群节点之间同步什么数据,通过哪个端口,是否可以自定义端口? 4. 客户端通过哪个端口连接到kafka,通过9092连接的是什么,broker还是controller? 5. 为controller配置了单独的端口有什么用? 6. control.plane.listener.name与controller.listener.names有何区别?
156 2
|
2月前
|
Docker 容器
在docker中安装zookeeper,并且阿里云服务器配置
在docker中安装zookeeper,并且阿里云服务器配置
204 1
|
1月前
|
消息中间件 Java Kafka
Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
【2月更文挑战第19天】Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
47 1
|
13天前
|
消息中间件 存储 运维
Kafka重要配置参数全面解读(重要)
Kafka重要配置参数全面解读(重要)
37 0
|
1月前
|
消息中间件 存储 Kafka
Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
【2月更文挑战第19天】Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
140 1
|
2月前
|
消息中间件 缓存 Java
Kafka Consumer java api 配置
Kafka Consumer java api 配置
|
2月前
|
Java Linux Spring
Zookeeper实现分布式服务配置中心
Zookeeper实现分布式服务配置中心
48 0
|
2月前
|
存储 安全 Nacos
使用KMS为MSE-Nacos敏感配置加密的最佳实践
本文主要介绍通过KMS密钥管理服务产生的密钥对敏感的AK等数据进行加密之后可以有效解决泄漏带来的安全风险问题,其次通过KMS凭据托管的能力直接将MSE的主AK进行有效管理,保障全链路无AK的业务体验,真正做到安全、可控。
92269 3
|
2月前
|
消息中间件 Kafka Docker
【docker专题_04】docker搭建kafka与zookeeper
【docker专题_04】docker搭建kafka与zookeeper