1. Kafka简介

  Kafka is a distributed,partitioned,replicated commit logservice。它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现。kafka对消息保存时根据Topic进行归类,发送消息者成为Producer,消息接受者

为Consumer,此外kafka集群有多个kafka实例组成,每个实例成为broker。无论是kafka集群,还是producer和consumer都依赖于zookeeper来保证系统可用性集群保存一些meta信息。

SRE实战 互联网时代守护先锋,助力企业售后服务体系运筹帷幄!一键直达领取阿里云限量特价优惠。

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第1张

2. ubuntu下安装Kafka

  环境说明: 

  1. os:Ubuntu 16.04

  2. zookeeper:zookeeper 3.4.13

  3. kafka:kafka_2.11-2.0.1

  4. jdk:jdk 8(kafka启动需要使用到jdk)

2.1 jdk安装

  jdk在安装是较为常见的,所以这里就不再详细介绍了。

2.2 zookeeper安装

  首先下载zookeeper,下载地址为:http://mirror.bit.edu.cn/apache/zookeeper/,如当前源不能访问,请自行更换其他源。如图:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第2张

  根据自己的需要的版本下载相应的.tar.gz文件,将下载的文件上传到服务器上。通过Xshell 6端,使用命令rz。

  解压文件:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第3张

  解压后进入conf文件夹,

  将zoo_sample.cfg拷贝一份为zoo.cfg

  如下:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第4张

  修改zoo.cfg文件:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第5张

  为zookeeper配置环境变量:

vim /etc/profile
export ZOOKEEPER_HOME=/usr/local/middle/zookeeper-3.4.13 export PATH=.:$ZOOKEEPER_HOME/bin:$JAVA_HOME/bin:$PATH

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第6张

保存退出

  使用zkServer.sh start启动zookeeper服务:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第7张

启动成功,配置正确,然后关闭服务zkServer.sh stop

2.3 安装配置Kafka单机模式

  下载Kafka,下载地址为:http://mirror.bit.edu.cn/apache/kafka/2.0.1/,如果源不可用,自行更换其他源。如图:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第8张

  下载自己需要的版本

  将下载的Kafka上传到服务器,使用如下命令解压:

tar -zxvf kafka_2.11-2.0.1.tgz 

  解压后进入到config文件夹,如下:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第9张

  分别配置三个文件:

  server.properties:

  主要配置以下几项,其他的都按默认配置即可

broker.id=1 #指定端口 port=9092 #指定主机 host.name=localhost #数据存储位置 log.dirs=/usr/local/middle/kafka_2.11-2.0.1/kafka-logs #连接zookeeper配置项,这里指定的是单机,所以只需要配置localhost,若是实际生产环境,需要在这里添加其他ip地址和端口号 zookeeper.connect=localhost:2181

  如图:

·Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第10张

  zookeeper.properties配置:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第11张

  producer.properties配置:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第12张

  consumer.properties配置:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第13张

  启动kafka:

  1. 启动zookeeper服务

  进入kafka根目录,使用如下命令启动zookeeper。

bin/zookeeper-server-start.sh config/zookeeper.properties

  如图:

Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第14张

Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第15张

  会执行环境变量配置的zk,出现如上图所示表示启动成功。

  新开一个会话启动kafka,使用如下命令:

bin/kafka-server-start.sh config/server.properties

  如下图: 

 Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第16张

Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第17张

  出现如上图则表示kafka启动成功。

  至此,单机的Kafka安装完成了。

原文 Kafka学习笔记(1)----Kafka的简介和Linux下单机安装

,

1. Kafka简介

  Kafka is a distributed,partitioned,replicated commit logservice。它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现。kafka对消息保存时根据Topic进行归类,发送消息者成为Producer,消息接受者

为Consumer,此外kafka集群有多个kafka实例组成,每个实例成为broker。无论是kafka集群,还是producer和consumer都依赖于zookeeper来保证系统可用性集群保存一些meta信息。

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第18张

2. ubuntu下安装Kafka

  环境说明: 

  1. os:Ubuntu 16.04

  2. zookeeper:zookeeper 3.4.13

  3. kafka:kafka_2.11-2.0.1

  4. jdk:jdk 8(kafka启动需要使用到jdk)

2.1 jdk安装

  jdk在安装是较为常见的,所以这里就不再详细介绍了。

2.2 zookeeper安装

  首先下载zookeeper,下载地址为:http://mirror.bit.edu.cn/apache/zookeeper/,如当前源不能访问,请自行更换其他源。如图:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第19张

  根据自己的需要的版本下载相应的.tar.gz文件,将下载的文件上传到服务器上。通过Xshell 6端,使用命令rz。

  解压文件:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第20张

  解压后进入conf文件夹,

  将zoo_sample.cfg拷贝一份为zoo.cfg

  如下:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第21张

  修改zoo.cfg文件:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第22张

  为zookeeper配置环境变量:

vim /etc/profile
export ZOOKEEPER_HOME=/usr/local/middle/zookeeper-3.4.13 export PATH=.:$ZOOKEEPER_HOME/bin:$JAVA_HOME/bin:$PATH

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第23张

保存退出

  使用zkServer.sh start启动zookeeper服务:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第24张

启动成功,配置正确,然后关闭服务zkServer.sh stop

2.3 安装配置Kafka单机模式

  下载Kafka,下载地址为:http://mirror.bit.edu.cn/apache/kafka/2.0.1/,如果源不可用,自行更换其他源。如图:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第25张

  下载自己需要的版本

  将下载的Kafka上传到服务器,使用如下命令解压:

tar -zxvf kafka_2.11-2.0.1.tgz 

  解压后进入到config文件夹,如下:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第26张

  分别配置三个文件:

  server.properties:

  主要配置以下几项,其他的都按默认配置即可

broker.id=1 #指定端口 port=9092 #指定主机 host.name=localhost #数据存储位置 log.dirs=/usr/local/middle/kafka_2.11-2.0.1/kafka-logs #连接zookeeper配置项,这里指定的是单机,所以只需要配置localhost,若是实际生产环境,需要在这里添加其他ip地址和端口号 zookeeper.connect=localhost:2181

  如图:

·Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第27张

  zookeeper.properties配置:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第28张

  producer.properties配置:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第29张

  consumer.properties配置:

  Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第30张

  启动kafka:

  1. 启动zookeeper服务

  进入kafka根目录,使用如下命令启动zookeeper。

bin/zookeeper-server-start.sh config/zookeeper.properties

  如图:

Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第31张

Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第32张

  会执行环境变量配置的zk,出现如上图所示表示启动成功。

  新开一个会话启动kafka,使用如下命令:

bin/kafka-server-start.sh config/server.properties

  如下图: 

 Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第33张

Kafka学习笔记(1)----Kafka的简介和Linux下单机安装,Kafka学习笔记(1)----Kafka的简介和Linux下单机安装 随笔 第34张

  出现如上图则表示kafka启动成功。

  至此,单机的Kafka安装完成了。

扫码关注我们
微信号:SRE实战
拒绝背锅 运筹帷幄