欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Kafka 部署指南-好久没有更新博客了

程序员文章站 2022-07-26 11:21:38
最近到了一家新公司,很多全新技术栈要理解。每天都在看各类 English Offcial Document,我的宗旨是我既然看懂了,就写下来分享,这是第一篇。 基本需求: 1、已有 zookeeper 集群 2、kafka 搭建请务必准备三台服务器 步骤: 1、下载所需要版本的 kafka http ......

最近到了一家新公司,很多全新技术栈要理解。每天都在看各类 English Offcial Document,我的宗旨是我既然看懂了,就写下来分享,这是第一篇。

基本需求:

1、已有 zookeeper 集群
2、kafka 搭建请务必准备三台服务器

步骤:

1、下载所需要版本的 kafka 
2、上传服务器解压
tar xzvf kafka_2.11-1.1.0.tgz
3、修改配置文件

broker.id=1    # 必改项

num.network.threads=3    # 网络请求线程数

num.io.threads=8    # IO线程数

num.partitions=3    # 每个 topic 的分区数

log.dirs=/home/kafka/kafka-log    # kafka topic数据存放地址

log.retention.hours=72    # 数据保存小时数,默认是168

zookeeper.connect=192.168.1.1:2181,192.168.1.2:2181,192.168.1.3:2181

zookeeper.connection.timeout.ms=6000    # zookeeper 连接超时时间

 

4、启动 kafka

kafka/bin/kafka-server-start.sh kafka/config/server.properties

 

部署完成后的工作:

# 创建主题

kafka/bin/kafka-topics.sh --create --zookeeper 192.168.1.162:2181 --replication-factor 1 --partitions 1 --topic opstest

# 生产者生产数据

kafka/bin/kafka-console-producer.sh --broker-list 192.168.1.163:9092 --topic opstest

# 消费者消费数据

kafka/bin/kafka-console-consumer.sh --zookeeper 192.168.1.173:2181 --topic opstest --from-beginning