Flink之状态一致性

ゝ一纸荒年。 2022-10-22 05:24 175阅读 0赞

### 目录 ###

*   *  （1）一致性级别
     *  （2）端到端的状态一致性

当在分布式系统中引入状态时，自然也引入了一致性问题。

一致性实际上是"正确性级别"的另一种说法，也就是说在成功处理故障并恢复之后得到 的结果，与没有发生任何故障时得到的结果相比，前者到底有多正确？举例来说，假设要对 最近一小时登录的用户计数。在系统经历故障之后，计数结果是多少？如果有偏差，是有漏 掉的计数还是重复计数？

## （1）一致性级别 ##

在流处理中，一致性可以分为 3 个级别:

*  **at-most-once(最多变一次): 这其实是没有正确性保障的委婉说法——故障发生之后，计数结果可能丢失。**
 *  **at-least-once(至少一次):这表示计数结果可能大于正确值，但绝不会小于正确值。也就是说，计数 程序在发生故障后 可能多算 ，但是 绝不会少算。**
 *  **exactly-once(严格变一次):这指的是系统保证在发生故障后得到的计数结果与正确值一致.既不多算也 不少算。**

曾经，at-least-once 非常流行。第一代流处理器(如 Storm 和 Samza)刚问世时 只保证 at-least-once，原因有二:

1.  保证 exactly-once 的系统实现起来更复杂。这在基础架构层(决定什么代 表正确，以及 exactly-once 的范围是什么)和实现层都很有挑战性
2.  流处理系统的早期用户愿意接受框架的局限性，并在应用层想办法弥补(例 如使应用程序具有幂等性，或者用批量计算层再做一遍计算)。

最先保证 exactly-once 的系统(Storm Trident 和 Spark Streaming)在性能和 表现力这两个方面付出了很大的代价。为了保证 exactly-once，这些系统无法单独地 对每条记录运用应用逻辑，而是**同时处理多条(一批)记录，保证对每一批的处理要么 全部成功，要么全部失败**。这就导致在得到结果前，必须等待一批记录处理结束。因 此，用户经常不得不使用两个流处理框架(一个用来保证 exactly-once，另一个用来 对每个元素做低延迟处理)，结果使基础设施更加复杂。曾经，用户不得不在保证 exactly-once 与获得低延迟和效率之间权衡利弊。Flink 避免了这种权衡。

Flink 的一个重大价值在于，它 既 保证了 exactly-once ， 又 具有 低延迟和高吞 吐 的处理能力。

## （2）端到端的状态一致性 ##

目前我们看到的一致性保证都是由流处理器实现的，也就是说都是在 Flink 流处理器 内部保证的；而在真实应用中，流处理应用除了流处理器以外还包含了数据源（例如 Kafka） 和输出到持久化系统。

端到端的一致性保证，意味着结果的正确性贯穿了整个流处理应用的始终；每一个组件 都保证了它自己的一致性，**整个端到端的一致性级别取决于所有组件中一致性最弱的组件。**

具体划分如下:

*  **source 端：**  
    需要外部源可重设数据的读取位置.  
    目前我们使用的 Kafka Source 具有这种特性: 读取数据的时候可以指定 offset
 *  **flink 内部**  
    依赖 checkpoint 机制
 *  **sink 端**  
    需要保证从故障恢复时，数据不会重复写入外部系统. 有 2 种实现形式:
    
     *  幂等（Idempotent）写入  
        所谓幂等操作，是说一个操作，可以重复执行很多次，但只导致一次结果更改， 也就是说，后面再重复执行就不起作用了。
     *  事务性（Transactional）写入  
        需要构建事务来写入外部系统， 构建的事务对应着 checkpoint， 等到 checkpoint 真正完成的时候，才把所有对应的结果写入 sink 系统中。对于事务 性写入，具体又有两种实现方式：预写日志（WAL）和两阶段提交（2PC）

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NTM2NjQ5OQ_size_16_color_FFFFFF_t_70]

--------------------

以上内容仅供参考学习，如有侵权请联系我删除！  
如果这篇文章对您有帮助，左下角的大拇指就是对博主最大的鼓励。  
您的鼓励就是博主最大的动力！

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NTM2NjQ5OQ_size_16_color_FFFFFF_t_70]: /images/20221022/7911905d03e348b5a6bcec1c3d32b97c.png