Apache Kafka 入门 - Kafka-manager的基本配置和运行

柔情只为你懂 2022-05-17 09:55 176阅读 0赞

[https://blog.csdn.net/isea533/article/details/73727485][https_blog.csdn.net_isea533_article_details_73727485]

# Apache Kafka 入门 #

*  Kafka的基本配置和运行
 *  Kafka命令详细介绍
 *  Kafka-manager的基本配置和运行
 *  Kafka API 简单用法
 *  Spring Boot 集成Kafka

Kafka支持Linux和WIndows环境，本文运行环境使用Linux（CentOS）。

本篇为第三篇。

## Kafka-manager的基本配置和运行 ##

想要查看和管理Kafka，完全使用命令并不方便，我们可以使用雅虎开源的Kafka-manager，GitHub地址如下：

> [https://github.com/yahoo/kafka-manager][https_github.com_yahoo_kafka-manager]

我们可以使用Git或者直接从Releases中下载，此处从下面的地址下载 1.3.3.7 版本：

> [https://github.com/yahoo/kafka-manager/releases][https_github.com_yahoo_kafka-manager_releases]

下载完成后解压。

> 注意：上面下载的是源码，下载后需要按照后面步骤进行编译。如果觉得麻烦，可以直接从下面地址下载编译好的 kafka-manager-1.3.3.7.zip。  
> 链接: [http://pan.baidu.com/s/1qY8sGoO][http_pan.baidu.com_s_1qY8sGoO] 密码: ye7b

### 准备 ###

> 请先准备好Java8环境！

在开始安装官方文档进行配置前，因为Kafka-manager使用的[Play框架][Play]，为了编译的速度更快，先配置sbt的maven仓库，由于默认仓库速度较慢，因此使用aliyun提供的maven仓库。

通过 `cd ~`进入当前用户目录，然后通过命令`mkdir .sbt`创建`.sbt`目录，进入创建的该目录，使用vi创建`repositories`文件，编辑内容如下：

[repositories]
    local
    aliyun: http://maven.aliyun.com/nexus/content/groups/public
    typesafe: http://repo.typesafe.com/typesafe/ivy-releases/, [organization]/[module]/(scala_[scalaVersion]/)(sbt_[sbtVersion]/)[revision]/[type]s/[artifact](-[classifier]).[ext], bootOnly

*  1
 *  2
 *  3
 *  4

> 配置参考：[http://www.scala-sbt.org/0.13.2/docs/Detailed-Topics/Library-Management.html\#override-all-resolvers-for-all-builds][http_www.scala-sbt.org_0.13.2_docs_Detailed-Topics_Library-Management.html_override-all-resolvers-for-all-builds]

然后进入解压后的 Kafka-manager 目录，执行下面的命令：

> ./sbt clean dist

*  1

如果之前从来没有用过Play框架，这个步骤会需要一定时间，主要是下载依赖的jar包，使用aliyun的私服可以让这个过程缩短很多。

命令执行完成后，在 `target/universal` 目录中会生产一个zip压缩包`kafka-manager-1.3.3.7.zip`。将压缩包拷贝到要部署的目录下解压。

在解压后的`conf`目录中打开 `application.conf`文件，修改其中的配置信息，最主要的内容为：

kafka-manager.zkhosts="localhost:2181"

*  1

配置为Kafka的 zookeeper 服务器。你还可以通过环境变量`ZK_HOSTS`配置这个参数值。

其他详细的配置信息参考官方文档：[https://github.com/yahoo/kafka-manager][https_github.com_yahoo_kafka-manager]

### 启动 ###

在解压的目录中，使用下面的命令启动Kafka-manager。

> bin/kafka-manager

*  1

默认情况下端口为9000，你还可以通过下面的命令指定配置文件和端口：

> bin/kafka-manager -Dconfig.file=/path/to/application.conf -Dhttp.port=8080

*  1

如果没有配置Java的环境变量，还可以通过下面的方式指定Java8的目录：

> bin/kafka-manager -java-home /usr/local/oracle-java-8

*  1

启动后，从浏览器打开，显示如下：

![这里写图片描述][SouthEast]

### 配置集群 ###

点击【Cluster】>【Add Cluster】打开如下添加集群的配置界面：

![这里写图片描述][SouthEast 1]

输入集群的名字（如`Kafka-Cluster-1`）和 Zookeeper 服务器地址（如`localhost:2181`）。

选择最接近的Kafka版本（如`0.10.1.0`）。

> 注意：如果没有在 Kafka 中配置过 JMX\_PORT，千万不要选择第一个复选框。
> 
> `Enable JMX Polling`
> 
> 如果选择了该复选框，Kafka-manager 可能会无法启动。

其他broker的配置可以根据自己需要进行配置，默认情况下，点击【保存】时，会提示几个默认值为`1`的配置错误，需要配置为`>=2`的值。保存成功后，提示如下。

![这里写图片描述][SouthEast 2]

点击【Go to cluster view.】打开当前的集群界面。

![这里写图片描述][SouthEast 3]

在集群界面显示了主题和Broker的个数，点击数字可以查看具体的信息。

同时在顶部多了好几个菜单，可以查看集群、Broker、主题等信息。

### 新建主题 ###

点击【Topic】>【Create】可以方便的创建并配置主题。如下显示。

![这里写图片描述][SouthEast 4]

这里只在Topic中输入`t1`(或其他名字)，分区和复制因子这里简单说明一下，详细的可以查看官方介绍。

![这里写图片描述][SouthEast 5]

在上图一个Kafka集群中，有两个服务器，每个服务器上都有2个分区。P0,P3可能属于同一个主题，也可能是两个不同的主题。

如果设置的Partitons和Replication Factor都是2，这种情况下该主题的分步就和上图中Kafka集群显示的相同，此时P0,P3是同一个主题的两个分区。P1,P2也是同一个主题的两个分区，Server1和Server2其中一个会作为Leader进行读写操作，另一个通过复制进行同步。

如果设置的Partitons和Replication Factor都是1，这时只会根据算法在某个Server上创建一个分区，可以是P0~4中的某一个（分区都是新建的，不是先存在4个然后从中取1个）。

这里我们都设置为`1`，点击【Create】然后进入创建的这个主题，显示如下。

![这里写图片描述][SouthEast 6]

这里显示了主题的基本信息，在右侧中间的Broker这里显示了当前的Broker Id为0，分区数为1，如果集群中存在多个服务，在创建该主题时，不一定会分配到哪个Broker。

这个页面的右上部分显示了针对主题的一些操作。这些操作相对命令的方式简单和直观了很多。

### 其他操作 ###

关于kafka-manager的其他功能和操作可以参考官网：[https://github.com/yahoo/kafka-manager][https_github.com_yahoo_kafka-manager]。

[https_blog.csdn.net_isea533_article_details_73727485]: https://blog.csdn.net/isea533/article/details/73727485
[https_github.com_yahoo_kafka-manager]: https://github.com/yahoo/kafka-manager
[https_github.com_yahoo_kafka-manager_releases]: https://github.com/yahoo/kafka-manager/releases
[http_pan.baidu.com_s_1qY8sGoO]: http://pan.baidu.com/s/1qY8sGoO
[Play]: https://www.playframework.com/
[http_www.scala-sbt.org_0.13.2_docs_Detailed-Topics_Library-Management.html_override-all-resolvers-for-all-builds]: http://www.scala-sbt.org/0.13.2/docs/Detailed-Topics/Library-Management.html#override-all-resolvers-for-all-builds
[SouthEast]: /images/20220517/d718699c50e54959bec4083c44983742.png
[SouthEast 1]: /images/20220517/29ece774a811498593e55efb41ea83ba.png
[SouthEast 2]: /images/20220517/85f2eb9ec615437d8201d708151015ee.png
[SouthEast 3]: /images/20220517/fb72b3ea5ee04bfa96e559633797c2fe.png
[SouthEast 4]: /images/20220517/aa4d55c4fed94a709caa71bc77adb66c.png
[SouthEast 5]: /images/20220517/d1302767e9184335aed9ec4190727dbf.png
[SouthEast 6]: /images/20220517/a5cb2a6ea4cf4151bb93d8e983b91591.png