kafka工作原理介绍

约定不等于承诺〃 2022-04-03 03:13 286阅读 0赞

### 1. 前言 ###

周末无聊刷着手机，某宝网APP突然蹦出来一条消息“为了回馈老客户，女朋友买一送一，活动仅限今天！”。买一送一还有这种好事，那我可不能错过！忍不住立马点了去。于是选了两个最新款，下单、支付一气呵成！满足的躺在床上，想着马上有女朋友了，竟然幸福的失眠了……

第二天正常上着班，突然接到快递小哥的电话：  
小哥：“你是xx吗？你的女朋友到了，我现在在你楼下，你来拿一下吧！”。  
我：“这……我在上班呢，可以晚上送过来吗？“。  
小哥：“晚上可不行哦，晚上我也下班了呢！”。  
于是两个人僵持了很久……  
最后小哥说，要不我帮你放到楼下小芳便利店吧，你晚上下班了过来拿，尴尬的局面这才得以缓解！

回到正题，如果没有小芳便利店，那快递小哥和我的交互图就应该如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center]

会出现什么情况呢？

1.  为了这个女朋友，我请假回去拿（老板不批）。
2.  小哥一直在你楼下等（小哥还有其他的快递要送）。
3.  周末再送（显然等不及）。
4.  这个女朋友我不要了（绝对不可能）！

小芳便利店出现后，交互图就应如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 1]

在上面例子中，“快递小哥”和“买女朋友的我”就是需要交互的两个系统，小芳便利店就是我们本文要讲的-“消息中间件”。总结下来小芳便利店（消息中间件）出现后有如下好处：

1.  **解耦**  
    　　快递小哥手上有很多快递需要送，他每次都需要先电话一一确认收货人是否有空、哪个时间段有空，然后再确定好送货的方案。这样完全依赖收货人了！如果快递一多，快递小哥估计的忙疯了……如果有了便利店，快递小哥只需要将同一个小区的快递放在同一个便利店，然后通知收货人来取货就可以了，这时候快递小哥和收货人就实现了解耦！
2.  **异步**  
    快递小哥打电话给我后需要一直在你楼下等着，直到我拿走你的快递他才能去送其他人的。快递小哥将快递放在小芳便利店后，又可以干其他的活儿去了，不需要等待你到来而一直处于等待状态。提高了工作的效率。
3.  **削峰**  
    假设双十一我买了不同店里的各种商品，而恰巧这些店发货的快递都不一样，有中通、圆通、申通、各种通等……更巧的是他们都同时到货了！中通的小哥打来电话叫我去北门取快递、圆通小哥叫我去南门、申通小哥叫我去东门。我一时手忙脚乱……

我们能看到在系统需要交互的场景中，使用消息队列中间件真的是好处多多，基于这种思路，就有了丰巢、菜鸟驿站等比小芳便利店更专业的“中间件”了。

最后，上面的故事纯属虚构……

### 2. 消息队列通信的模式 ###

通过上面的例子我们引出了消息中间件，并且介绍了消息队列出现后的好处，这里就需要介绍消息队列通信的两种模式了：

#### 2.1 点对点模式 ####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 2]  
如上图所示，点对点模式通常是基于拉取或者轮询的消息传送模型，这个模型的特点是发送到队列的消息被一个且只有一个消费者进行处理。生产者将消息放入消息队列后，由消费者主动的去拉取消息进行消费。点对点模型的的优点是消费者拉取消息的频率可以由自己控制。但是消息队列是否有消息需要消费，在消费者端无法感知，所以在消费者端需要额外的线程去监控。

### 2.2 发布订阅模式 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 3]  
如上图所示，发布订阅模式是一个基于消息推送的消息传送模型，改模型可以有多种不同的订阅者。生产者将消息放入消息队列后，队列会将消息推送给订阅过该类消息的消费者（类似微信公众号）。由于是消费者被动接收推送，所以无需感知消息队列是否有待消费的消息！但是`consumer1、consumer2、consumer3`由于机器性能不一样，所以处理消息的能力也会不一样，但消息队列却无法感知消费者消费的速度！所以推送的速度成了发布订阅模式的一个问题！假设三个消费者处理速度分别是`8M/s、5M/s、2M/s`，如果队列推送的速度为`5M/s`，则`consumer3`无法承受！如果队列推送的速度为`2M/s`，则`consumer1、consumer2`会出现资源的极大浪费！

### 3. Kafka ###

上面简单的介绍了为什么需要消息队列以及消息队列通信的两种模式，接下来就到了我们本文的主角——kafka闪亮登场的时候了！Kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模的网站中的所有动作流数据，具有高性能、持久化、多副本备份、横向扩展能力……… 一些基本的介绍这里就不展开了，网上有太多关于这些的介绍了，读者可以自行百度一下！

#### 3.1 基础架构及术语 ####

话不多说，先看图，通过这张图我们来捋一捋相关的概念及之间的关系：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 4]

**相关概念**

1.  `Producer`：即生产者，消息的产生者，是消息的入口。
2.  `kafka cluster`：  
    `Broker`：Broker是kafka实例，每个服务器上有一个或多个kafka的实例，我们姑且认为每个broker对应一台服务器。每个kafka集群内的broker都有一个不重复的编号，如图中的`broker-0、broker-1`等……  
    `Topic`：消息的主题，可以理解为消息的分类，kafka的数据就保存在topic。在每个broker上都可以创建多个topic。  
    `Partition`：Topic的分区，每个topic可以有多个分区，分区的作用是做负载，提高kafka的吞吐量。同一个topic在不同的分区的数据是不重复的，partition的表现形式就是一个一个的文件夹！  
    `Replication`:每一个分区都有多个副本，副本的作用是做备胎。当主分区（`Leader`）故障的时候会选择一个备胎（`Follower`）上位，成为Leader。在kafka中默认副本的最大数量是10个，且副本的数量不能大于Broker的数量，follower和leader绝对是在不同的机器，同一机器对同一个分区也只可能存放一个副本（包括自己）。  
    `Message`：每一条发送的消息主体。
3.  `Consumer`：消费者，即消息的消费方，是消息的出口。
4.  `Consumer Group`：我们可以将多个消费者组成一个消费者组，在kafka的设计中同一个分区的数据只能被消费者组中的某一个消费者消费。同一个消费者组的消费者可以消费同一个topic的不同分区的数据，这也是为了提高kafka的吞吐量！
5.  `Zookeeper`：kafka集群依赖zookeeper来保存集群的的元信息，来保证系统的可用性。

### 4. 工作流程分析 ###

上面介绍了kafka的基础架构及基本概念，不知道大家看完有没有对kafka有个大致印象，如果对还比较懵也没关系！我们接下来再结合上面的结构图分析kafka的工作流程，最后再回来整个梳理一遍我相信你会更有收获！

#### 4.1 发送数据 ####

我们看上面的架构图中，`producer`就是生产者，是数据的入口。注意看图中的红色箭头，Producer在写入数据的时候`永远的找leader`，不会直接将数据写入`follower`！那leader怎么找呢？写入的流程又是什么样的呢？我们看下图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 5]  
发送的流程就在图中已经说明了，就不单独在文字列出来了！需要注意的一点是，`消息写入leader后，follower是主动的去leader进行同步的`！`producer采用push模式将数据发布到broker，每条消息追加到分区中，顺序写入磁盘，所以保证同一分区内的数据是有序的`！写入示意图如下：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 6]

上面说到数据会写入到不同的分区，那kafka为什么要做分区呢？相信大家应该也能猜到，分区的主要目的是：

1.  `方便扩展`。因为一个topic可以有多个partition，所以我们可以通过扩展机器去轻松的应对日益增长的数据量。
2.  `提高并发`。以partition为读写单位，可以多个消费者同时消费数据，提高了消息的处理效率。

熟悉负载均衡的朋友应该知道，当我们向某个服务器发送请求的时候，服务端可能会对请求做一个负载，将流量分发到不同的服务器，那在kafka中，如果某个topic有多个partition，producer又怎么知道该将数据发往哪个partition呢？kafka中有几个原则：

1.  partition在写入的时候可以指定需要写入的partition，如果有指定，则写入对应的partition。
2.  如果没有指定partition，但是设置了数据的key，则会根据key的值hash出一个partition。
3.  如果既没指定partition，又没有设置key，则会`轮询`选出一个partition。

保证消息不丢失是一个消息队列中间件的基本保证，那producer在向kafka写入消息的时候，怎么保证消息不丢失呢？其实上面的写入流程图中有描述出来，那就是通过`ACK应答机制`！在生产者向队列写入数据的时候可以设置参数来确定是否确认kafka接收到数据，这个参数可设置的值为`0、1、all`。

*  `0` 代表producer往集群发送数据不需要等到集群的返回，不确保消息发送成功。安全性最低但是效率最高。
 *  `1` 代表producer往集群发送数据只要leader应答就可以发送下一条，只确保leader发送成功。
 *  `all` 代表producer往集群发送数据需要所有的follower都完成从leader的同步才会发送下一条，确保leader发送成功和所有的副本都完成备份。安全性最高，但是效率最低。

最后要注意的是，如果往不存在的topic写数据，能不能写入成功呢？`kafka会自动创建topic，分区和副本的数量根据默认配置都是1`。

#### 4.2 保存数据 ####

Producer将数据写入kafka后，集群就需要对数据进行保存了！kafka将数据保存在磁盘，可能在我们的一般的认知里，写入磁盘是比较耗时的操作，不适合这种高并发的组件。Kafka初始会单独开辟一块磁盘空间，顺序写入数据（效率比随机写入高）。

##### 4.2.1 `Partition` 结构 #####

前面说过了每个topic都可以分为一个或多个partition，如果你觉得topic比较抽象，那partition就是比较具体的东西了！Partition在服务器上的表现形式就是一个一个的`文件夹`，每个partition的文件夹下面会有多组`segment`文件，每组segment文件又包含`.index文件、.log文件、.timeindex文件`（早期版本中没有）三个文件， `log文件`就实际是存储`message`的地方，而`index`和`timeindex`文件为索引文件，用于检索消息。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 7]  
如上图，这个partition有三组segment文件，每个log文件的大小是一样的，但是存储的message数量是不一定相等的（每条的message大小不一致）。文件的命名是以该segment最小`offset`来命名的，如`000.index`存储`offset`为`0~368795`的消息，kafka就是利用`分段+索引`的方式来解决查找效率的问题。

##### 4.2.2 `Message`结构 #####

上面说到log文件就实际是存储message的地方，我们在producer往kafka写入的也是一条一条的message，那存储在log中的message是什么样子的呢？消息主要包含消息体、消息大小、offset、压缩类型……等等！我们重点需要知道的是下面三个：

1.  `offset`：offset是一个占`8byte`的`有序id`号，它可以唯一确定每条消息在parition内的位置！
2.  `消息大小`：消息大小占用`4byte`，用于描述消息的大小。
3.  `消息体`：消息体存放的是实际的消息数据（被压缩过），占用的空间根据具体的消息而不一样。

##### 4.2.3 存储策略 #####

无论消息是否被消费，kafka都会保存所有的消息。那对于旧数据有什么删除策略呢？

1.  `基于时间`：默认配置是`168小时（7天）`。
2.  `基于大小`：默认配置是`1073741824`。

需要注意的是，kafka读取特定消息的时间复杂度是O(1)，所以这里删除过期的文件并不会提高kafka的性能！

#### 4.3 消费数据 ####

消息存储在log文件后，消费者就可以进行消费了。与生产消息相同的是，消费者在拉取消息的时候也是找leader去拉取。

多个消费者可以组成一个`消费者组（consumer group）`，每个消费者组都有一个`组id`！同一个消费组者的消费者可以消费同一topic下不同分区的数据，但是不会组内多个消费者消费同一分区的数据！！！是不是有点绕。我们看下图：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 8]  
图示是消费者组内的消费者小于partition数量的情况，所以会出现某个消费者消费多个partition数据的情况，消费的速度也就不及只处理一个partition的消费者的处理速度！如果是消费者组的消费者多于partition的数量，那会不会出现多个消费者消费同一个partition的数据呢？上面已经提到过不会出现这种情况！多出来的消费者不消费任何partition的数据。所以在实际的应用中，`建议消费者组的consumer的数量与partition的数量一致`！

在保存数据的小节里面，我们聊到了partition划分为多组segment，每个segment又包含`.log、.index、.timeindex`文件，存放的每条message包含`offset、消息大小、消息体……`我们多次提到`segment`和`offset`，查找消息的时候是怎么利用`segment+offset`配合查找的呢？假如现在需要查找一个offset为`368801`的message是什么样的过程呢？我们先看看下面的图：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 9]

1.  先找到`offset`的`368801`message所在的segment文件（利用二分法查找），这里找到的就是在第二个segment文件。
2.  打开找到的segment中的`.index`文件（也就是`368796.index`文件，该文件起始偏移量为`368796+1`，我们要查找的offset为`368801`的message在该index内的偏移量为`368796+5=368801`，所以这里要查找的相对offset为`5`）。由于该文件采用的是`稀疏索引`的方式存储着`相对offset`及`对应message物理偏移量`的关系，所以直接找相对offset为5的索引找不到，这里同样利用二分法查找相对offset小于或者等于指定的相对offset的索引条目中最大的那个相对offset，所以找到的是`相对offset为4`的这个索引。
3.  根据找到的`相对offset为4`的索引确定message存储的`物理偏移位置为256`。打开数据文件，从位置为256的那个地方开始顺序扫描直到找到offset为`368801`的那条Message。

这套机制是建立在`offset为有序的基础`上，利用`segment+有序offset+稀疏索引+二分查找+顺序查找`等多种手段来高效的查找数据！至此，消费者就能拿到需要处理的数据进行处理了。那每个消费者又是怎么记录自己消费的位置呢？在早期的版本中，消费者将消费到的offset维护`zookeeper`中，consumer每间隔一段时间上报一次，这里容易导致重复消费，且性能不好！在新的版本中消费者消费到的offset已经直接维护在kafk集群的`__consumer_offsets`这个topic中！

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center]: /images/20220403/9ce87a6a0b9640f0bd60575479694d71.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20220403/010c305515e648298d49de1921c7fa47.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20220403/81c1b89be49e4d06a431ddc023e5b50c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20220403/b6d6fa0b53de415cacb41bb477307966.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20220403/a209a4095aca461993f4560c3736a722.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20220403/c3d5f74540a440929f8cf70fdb556163.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 6]: /images/20220403/0908890275724849a479977b4f8cc4ed.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 7]: /images/20220403/b56c2003b5224029a4721050ef21651f.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 8]: /images/20220403/24ccccb324e2433e9401127f48fc0160.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpamluZ2ppbmdjaG4_size_16_color_FFFFFF_t_70_pic_center 9]: /images/20220403/e08e22fe1bf547a38f4c11112819f6e2.png