Kafka日志及Topic数据清理

╰+哭是因爲堅強的太久メ 2022-04-04 06:57 776阅读 0赞

#   由于项目原因，最近经常碰到Kafka消息队列拥堵的情况。碰到这种情况为了不影响在线系统的正常使用，需要大家手动的清理Kafka Log。但是清理Kafka Log又不能单纯的去删除中间环节产生的日志，中间关联的很多东西需要手动同时去清理，否则可能会导致删除后客户端无法消费的情况。 #

在介绍手动删除操作之前，先简单的介绍一下Kafka消费Offset原理。

**一、Kafka消费Offset**

![37237-20161220222317917-902727953.png][]

在通过Client端消费Kafka中的消息时，消费的消息会同时在Zookeeper和Kafka Log中保存，如上图红线所示。

当手动删除Kafka某一分片上的消息日志时，如上图蓝线所示，此是只是将Kafka Log中的信息清0了，但是Zookeeper中的Partition和Offset数据依然会记录。当重新启动Kafka后，我们会发现如下二种情况：

A、客户端无法正常用消费；

B、在使用Kafka Consumer Offset  Monitor工具进行Kafka监控时会发现Lag(还有多少消息数未读取(Lag=logSize-Offset))为负数；其中此种情况的删除操作需要我们重点关注，后面我们也会详细介绍其对应的操作步骤。

一般正常情况，如果想让Kafka客户端正常消费，那么需要Zookeeper和Kafka Log中的记录保持如上图黄色所示。

Kafka具体消费原理可以参见:[http://blog.xiaoxiaomo.com/2016/05/14/Kafka-Consumer%E6%B6%88%E8%B4%B9%E8%80%85/][http_blog.xiaoxiaomo.com_2016_05_14_Kafka-Consumer_E6_B6_88_E8_B4_B9_E8_80_85]

**二、Kafka消息日志清除**

操作步骤主要包括：

1、停止Kafka运行；

2、删除Kafka消息日志；

3、修改ZK的偏移量；

4、重启Kafka;

上述步骤重点介绍其中的关键步骤。

在进行第2步：删除Kafka消息日志时，进入Kafka消息日志路径下，使用du -sh \* 检查磁盘占用比较大的目录，然后删除此目录；

在进行第3步：修改ZK的偏移量时，进入ZK的安装目录下，运行./zkCli.sh -server (中间以，分割)，如果不带server默认修改的为本机。

示例如下：

A.运行./zkCli.sh -server AAA:2181,BBB:2181,CCC:2181

B.在ZK上运行ls /consumers/对应的分组/offset/对应的topic,就可以看到此topic下的所有分区了；

通过get /consumers/对应的分组/offset/对应的topic/对应的分区号，可以查询到该分区上记录的offset;

通过set /consumers/对应的分组/offset/对应的topic/对应的分区号 修改后的值（一般为0），即可完成对offset的修改；

三**、重建Topic**

**   ** 操作步骤主要包括如下：

1、删除Topic;

2、删除log日志；

3、删除ZK中的Topic记录

第一步：删除Topic

运行./kafka-topics.sh -delete -zookeeper \[zookeeper server\] -topic \[topic name\]；如果kafka启动时加载的配置文件server.properties没有配置delete.topic.enable = true,那么此时的删除并不是真正的删除。而只是把topic标记为：marked for deletion,此时就需要执行第3步的操作；

第三步：删除ZK中的Topic记录

示例如下：

A.运行./zkCli.sh -server AAA:2181,BBB:2181,CCC:2181

B.进入/admin/delete\_topics目录下，找到删除的topic,删除对应的信息。

**四、常用命令**

A.查看Kafka中的消息

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> </td> 
   <td> <p><code>./kafka-run-</code><code>class</code><code>.sh kafka.tools.DumpLogSegments -print-data-log -files /data01/middle/kafka-logs/00000002154.log &gt;&gt;aa.txt</code></p> <p><code>find /dataa01 -mtime 0 -name *.log |xargs /kafka-run-</code><code>class</code><code>.sh kafka.tools.DumpLogSegments -print-data-log -files /data01/middle/kafka-logs/00000002154.log &gt;&gt;aa.txt</code></p> </td> 
  </tr> 
 </tbody> 
</table>

0代表当天；-1代表昨天

分类: [17.消息中间件][17.]

# kafka如何彻底删除topic及数据 #

2018年06月05日 07:30:06 [360linker][] 阅读数：8090

# 前言： #

删除kafka topic及其数据，严格来说并不是很难的操作。但是，往往给kafka 使用者带来诸多问题。项目组之前接触过多个开发者，发现都会偶然出现无法彻底删除kafka的情况。本文总结多个删除kafka topic的应用场景，总结一套删除kafka topic的标准操作方法。

**step1：**

如果需要被删除topic 此时正在被程序 produce和consume，则这些生产和消费程序需要停止。

因为如果有程序正在生产或者消费该topic，则该topic的offset信息一致会在broker更新。调用kafka delete命令则无法删除该topic。

同时，需要设置 auto.create.topics.enable = false，默认设置为true。如果设置为true，则produce或者fetch 不存在的topic也会自动创建这个topic。这样会给删除topic带来很多意向不到的问题。

所以，这一步很重要，必须设置auto.create.topics.enable = false，并认真把生产和消费程序彻底全部停止。

**step2：**

server.properties **设置 delete.topic.enable=true**

如果没有设置 delete.topic.enable=true，则调用kafka 的delete命令无法真正将topic删除，而是显示（marked for deletion）

**step3：**

**调用命令删除topic：**

./bin/kafka-topics --delete --zookeeper 【zookeeper server:port】 --topic 【topic name】

**step4：**

删除kafka存储目录（server.properties文件log.dirs配置，默认为"/data/kafka-logs"）相关topic的数据目录。

注意：如果kafka 有多个 broker，且每个broker 配置了多个数据盘（比如 /data/kafka-logs,/data1/kafka-logs ...），且topic也有多个分区和replica，则需要对所有broker的所有数据盘进行扫描，删除该topic的所有分区数据。

一般而言，经过上面4步就可以正常删除掉topic和topic的数据。但是，如果经过上面四步，还是无法正常删除topic，则需要对kafka在zookeeer的存储信息进行删除。具体操作如下：

（注意：以下步骤里面，kafka在zk里面的节点信息是采用默认值，如果你的系统修改过kafka在zk里面的节点信息，则需要根据系统的实际情况找到准确位置进行操作）

**step5：**

找一台部署了zk的服务器，使用命令：

bin/zkCli.sh -server 【zookeeper server:port】

登录到zk shell，然后找到topic所在的目录：ls /brokers/topics，找到要删除的topic，然后执行命令：

rmr /brokers/topics/【topic name】

即可，此时topic被彻底删除。

如果topic 是被标记为 marked for deletion，则通过命令 ls /admin/delete\_topics，找到要删除的topic，然后执行命令：

rmr /admin/delete\_topics/【topic name】

**备注：**

网络上很多其它文章还说明，需要删除topic在zk上面的消费节点记录、配置节点记录，比如：

rmr /consumers/【consumer-group】

rmr /config/topics/【topic name】

其实正常情况是不需要进行这两个操作的，如果需要，那都是由于操作不当导致的。比如step1停止生产和消费程序没有做，step2没有正确配置。也就是说，正常情况下严格按照step1 -- step5 的步骤，是一定能够正常删除topic的。

**step6：**

完成之后，调用命令：

./bin/kafka-topics.sh --list --zookeeper 【zookeeper server:port】

查看现在kafka的topic信息。正常情况下删除的topic就不会再显示。

但是，如果还能够查询到删除的topic，则重启zk和kafka即可。

[37237-20161220222317917-902727953.png]: /images/20220404/97ccb3e47e4141db92d91933a6e8eabf.png
[http_blog.xiaoxiaomo.com_2016_05_14_Kafka-Consumer_E6_B6_88_E8_B4_B9_E8_80_85]: http://blog.xiaoxiaomo.com/2016/05/14/Kafka-Consumer%E6%B6%88%E8%B4%B9%E8%80%85/
[17.]: https://www.cnblogs.com/moonandstar08/category/754660.html
[360linker]: https://me.csdn.net/belalds