优秀的编程知识分享平台

网站首页 > 技术文章 正文

Windows10搭建Kafka开发环境(kafka环境搭建及demo)

nanyue 2024-08-25 10:15:51 技术文章 5 ℃

安装Zookeeper

Kafka的运行依赖于Zookeeper,安装Kafka之前需要先安装并运行Zookeeper 。

1、下载Zookeeper 地址:https://archive.apache.org/dist/zookeeper/

2、解压文件(如解压到D:\zookeeper\zookeeper-3.4.9

3、将D:\zookeeper\zookeeper-3.4.9\conf下的zoo_sample.cfg重命名成zoo.cfg

4、打开zoo.cfg修改里面的参数如下

数据保存路径

dataDir=D:\\zookeeper\\zookeeper-3.4.9\\data

日志保存路径

dataLogDir=D:\\zookeeper\\zookeeper-3.4.9\\log

(路径根据自己实际需要设置)

注意:路径要么是"/"分割,要么是转义字符"\\",这样会生成正确的路径(层级,子目录)。

默认端口是2181,正常不做修改,如果需要更改也可以

clientPort=2181


5、添加环境变量

变量名:ZOOKEEPER_HOME

变量值:D:\zookeeper\zookeeper-3.4.9(以自己的解压位置为准)


添加到path变量中:%ZOOKEEPER_HOME%\bin

6、运行Zookeeper

在cmd输入:zkServer

或D:\\zookeeper\\zookeeper-3.4.9\\bin文件夹,双击:zkServer.cmd启动


注:不要关了这个(cmd)窗口

安装Kafka

1、下载Kafka地址:http://kafka.apache.org/downloads

2、解压文件(如解压到 D:\kafka\kafka_2.11

3、进入kafka配置文件所在目录,D:\kafka\kafka_2.11\config,使用notepad文本编辑器中打开

server.properties文件,

将log.dirs=/tmp/kafka-logs更改为

log.dirs=D:/kafka/kafka_2.11/kafka-logs

或者

log.dirs=D:\\kafka\kafka_2.11\\kafka-logs

注意:路径要么是"/"分割,要么是转义字符"\\",这样会生成正确的路径(层级,子目录)。

4、server.properties文件中,zookeeper.connect=localhost:2181

代表kafka所连接的zookeeper所在的服务器IP以及端口,可根据需要自定义修改。

5、kafka会按照默认配置,在9092端口上运行,并连接zookeeper的默认端口2181。

启动Kafka

kafka的运行之前需要zookeeper(分布式应用程序协调服务),所以启动kafka服务器前,Zookeeper实例已经在运行。

1、在cmd,进入kafka安装目录

cd D:\kafka\kafka_2.11

2、在命令行中输入后回车

.\bin\windows\kafka-server-start.bat .\config\server.properties   

运行如下图:


日志自定义

编辑D:\kafka\kafka_2.11\config目录下的log4j.properties

更改路径根据自定义,这样就可以归档在一个文件夹下边了

之后启动kafka时,会在自定义目录下创建start-logs目录,里面存放日志。


测试

创建主题

1、在D:\kafka\kafka_2.11\bin\windows目录下打开新的命令行

2、输入命令

kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test20201112

执行完毕

注:上面命令创建主题命名为:test20201112

replication-factor=1(表示只有一个kafka服务器在运行)。

可根据集群中kafka服务器个数来修改replication-factor的数量,以提高系统容错性等。

创建producer(生产者)和consumer(消费者)

1、在D:\kafka\kafka_2.11\bin\windows目录下打开新的命令行。

2、输入命令,启动生产者

kafka-console-producer.bat --broker-list localhost:9092 --topic test20201112

3、同样在该目录下打开新的命令行。

4、输入命令,启动消费者

kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test20201112--from-beginning

注:窗口不要关闭

现在生产者、消费者已创建完成。

5、在生产者命令行窗口中任意输入内容,回车 在消费命令行窗口可接收相应的内容。


到些,在windows下的安装Kafka开发环境和基本的使用。

网友如需安装资料请私信。

Tags:

最近发表
标签列表