JobPlus知识库 IT 大数据 文章
Centos kafka单机配置部署详解

Centos下kafka 单机配置部署详解

前提:

Linux版本:CentOS release 6.6 (Final) 

JDK版本:jdk-7u71-linux-x64.tar.gz 

zookeeper版本:zookeeper-3.3.6.tar.gz 

kafka版本:kafka_2.11-0.9.0.1.tgz


1、安装JDK

  • 步骤1:新建路径/usr/java, 并在其下解压 jdk-7u71-linux-x64.tarmkdir -p /usr/java 
    tar -zxvf jdk-7u71-linux-x64.tar.gz骤2:添加JDK到系统环境变量

[root@test java]# vi /etc/profile


新增以下内容: 
export JAVA_HOME=/usr/java/jdk1.7.0_71 
export PATH=JAVAHOME/bin:JAVAHOME/bin:PATH 
export CLASSPATH=.:JAVAHOME/lib/dt.jar:JAVAHOME/lib/dt.jar:JAVA_HOME/lib/tools.jar

  • 步骤3:使配置生效

source /etc/profile #使配置文件立即生效


  • 验证是否安装成功

[root@test java]# java -version 

java version "1.7.0_71" 

Java(TM) SE Runtime Environment (build 1.7.0_71-b14)  

Java HotSpot(TM) 64-Bit Server VM (build 24.71-b01, mixed mode)


2、安装zookeeper

  • 步骤1:解压zookeeper安装包(路径无关,我放在/home/自己的路径下了)

tar -zxvf zookeeper-3.3.6.tar.gz


  • 步骤2:配置环境变量

export zookeeper_home=/home/laoyang/zookeeper


  • 步骤3:使配置生效

source /etc/profile


  • 验证是否安装成功:

[root@test bin]# sh $zookeeper_home/bin/zkServer.sh start 

JMX enabled by default 

Using config: /home/laoyang/zookeeper/bin/../conf/zoo.cfg 

grep: /home/laoyang/zookeeper/bin/../conf/zoo.cfg: No such file or directory 

Starting zookeeper ... STARTED


3、安装kafka

  • 步骤1:解压&移动到/usr/local

tar -xzvf kafka_2.11-0.9.0.1.tgz 

mv kafka_2.11-0.9.0.1 /usr/local/kafka


  • 步骤2:配置kafka,修改server.properties

mkdir /usr/local/kafka/log/kafka #创建kafka日志目录 

cd /usr/local/kafka/config #进入配置目录 

vi server.properties #编辑修改相应的参数 

broker.id=0 

port=9092 #端口号 

host.name=10.8.5.101 #服务器IP地址,修改为自己的服务器IP 

log.dirs=/usr/local/kafka/log/kafka #日志存放路径,上面创建的目录 

zookeeper.connect=localhost:2181 #zookeeper地址和端口,单机配置部署,localhost:2181


  • 步骤3、配置kafka下的zookeeper

mkdir /usr/local/kafka/zookeeper #创建zookeeper目录 

mkdir /usr/local/kafka/log/zookeeper #创建zookeeper日志目录 

cd /usr/local/kafka/config #进入配置目录 

vi zookeeper.properties #编辑修改相应的参数 

dataDir=/usr/local/kafka/zookeeper #zookeeper数据目录 

dataLogDir=/usr/local/kafka/log/zookeeper #zookeeper日志目录 

clientPort=2181 

maxClientCnxns=100 

tickTime=2000 

initLimit=10


  • 步骤4:创建启动、关闭kafka脚本

– 1)创建启动kafka脚本

vi kafkastart.sh #编辑,添加以下代码


#!/bin/bash

#启动zookeeper

/usr/local/kafka/bin/zookeeper-server-start.sh /usr/local/kafka/config/zookeeper.properties & 

sleep 3 #等3秒后执行


启动kafka

 /usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties &


– 2)创建关闭kafka脚本

#!/bin/bash

#关闭zookeeper

/usr/local/kafka/bin/zookeeper-server-stop.sh /usr/local/kafka/config/zookeeper.properties & 

sleep 3 #等3秒后执行


#关闭kafka

/usr/local/kafka/bin/kafka-server-stop.sh /usr/local/kafka/config/server.properties &


– 3)#添加脚本执行权限

chmod +x kafkastart.sh

chmod +x kafkastop.sh


– 4)设置脚本开机自动执行

vi /etc/rc.d/rc.local #编辑,在最后添加一行 

sh /usr/local/kafka/kafkastart.sh & #设置开机自动在后台运行脚本 

sh /usr/local/kafka/kafkastart.sh #启动kafka 

sh /usr/local/kafka/kafkastop.sh #关闭kafka


至此,经过1,2,3Linux下Kafka单机安装配置完成。

4、测试kafka

  • 步骤1:启动zookeeper

[root@test bin]# sh $zookeeper_home/bin/zkServer.sh start 

JMX enabled by default 

 Using config: /home/laoyang/zookeeper/bin/../conf/zoo.cfg 

 grep: /home/laoyang/zookeeper/bin/../conf/zoo.cfg: No such file or directory 

 Starting zookeeper ... STARTED


  • 步骤2:启动kafka

[root@test kafka]# ./kafkastart.sh


  • 步骤3:测试创建topic

cd /usr/local/kafka/bin 

./kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

  • 1
  • 2
  • 步骤4:通过list命令查看创建的topic

cd /usr/local/kafka/bin ./kafka-topics.sh –list –zookeeper localhost:2181


  • 步骤5:生产消息测试

[root@test bin]# ./kafka-console-producer.sh --broker-list localhost:9092 --topic test

 laoyang I love you!


步骤6:消费消息测试

[root@test bin]# ./kafka-console-consumer.sh –zookeeper localhost:2181 –topic test –from-beginning 
I’m laoyang #之前测试输入的内容 
laoyang I love you!

经过以上6步,代表kafka安装成功。

5、停止kafka

  • 步骤1:停止Kafka

cd /usr/local/kafka

  [root@test kafka]# ./kafkastop.sh


  • 步骤2:停止Zookeeper server

sh $zookeeper_home/bin/zkServer.sh stop


至此,启动,测试,停止全过程ok。


如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!

¥ 打赏支持
256人赞 举报
分享到
用户评价(0)

暂无评价,你也可以发布评价哦:)

扫码APP

扫描使用APP

扫码使用

扫描使用小程序