4.1.24 Flink-流处理框架-Flink中的容错机制之状态一致性级别和端到端的状态一致性

小咪咪 2022-11-07 04:16 177阅读 0赞

**目录**

1.什么是状态一致性

2.一致性级别

3.端到端（end-to-end）状态一致性

--------------------

# 1.什么是状态一致性 #

当在分布式系统中引入状态时，自然也引入了一致性问题。一致性实际上是" 正确性级别"的另一种说法，也就是说在成功处理故障并恢复之后得到的结果，与没 有发生任何故障时得到的结果相比，前者到底有多正确？举例来说，假设要对最近 一小时登录的用户计数。在系统经历故障之后，计数结果是多少？如果有偏差，是有漏掉的计数还是重复计数？

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70][]

# 2.一致性级别 #

在流处理中，一致性可以分为 3 个级别：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 1][]

（1）**at-most-once**: 这其实是没有正确性保障的委婉说法——故障发生之后，计数结果可能**丢失**。同样的还有 udp。

（2）**at-least-once**: 这表示计数结果可能大于正确值，但绝不会小于正确值。也就是说，计数程序在发生故障后**可能多算，但是绝不会少算**。

（3）**exactly-once**: 这指的是系统保证在发生故障后得到的计数结果与正确值**一致**。

曾经，at-least-once 非常流行。第一代流处理器(如 Storm 和 Samza)刚问世时只保证 at-least-once，原因有二：（1）保证 exactly-once 的系统实现起来更复杂。这在基础架构层(决定什么代表 正确，以及 exactly-once 的范围是什么)和实现层都很有挑战性。（2）流处理系统的早期用户愿意接受框架的局限性，并在应用层想办法弥补(例 如使应用程序具有幂等性，或者用批量计算层再做一遍计算)。

最先保证 exactly-once 的系统(Storm Trident 和 Spark Streaming)在性能和表现力 这两个方面付出了很大的代价。为了保证 exactly-once，这些系统无法单独地对每条记录运用应用逻辑，而是同时处理多条(一批)记录，保证对每一批的处理要么全部 成功，要么全部失败。这就导致在得到结果前，必须等待一批记录处理结束。因此， 用户经常不得不使用两个流处理框架(一个用来保证 exactly-once，另一个用来对每 个元素做低延迟处理)，结果使基础设施更加复杂。曾经，用户不得不在保证 exactly-once 与获得低延迟和效率之间权衡利弊。Flink 避免了这种权衡。

Flink 的一个重大价值在于，它**既保证了 exactly-once，也具有低延迟和高吞吐 的处理能力**。从根本上说，Flink 通过使自身满足所有需求来避免权衡，它是业界的一次意义 重大的技术飞跃。尽管这在外行看来很神奇，但是一旦了解，就会恍然大悟。

# **3.****端到**端（**end-to-end****）状态一致性** #

目前我们看到的一致性保证都是由流处理器实现的，也就是说都是在 Flink 流 处理器内部保证的；而在真实应用中，流处理应用除了流处理器以外还包含了数据 源（例如 Kafka）和输出到持久化系统。

端到端的一致性保证，意味着结果的正确性贯穿了整个流处理应用的始终；每 一个组件都保证了它自己的一致性，整个端到端的一致性级别取决于所有组件中一 致性最弱的组件。具体可以划分如下：

*  ⚫ **内部保证 —— 依赖 checkpoint**
 *  ⚫ **source 端 —— 需要外部源可重设数据的读取位置**
 *  ⚫ **sink 端 —— 需要保证从故障恢复时，数据不会重复写入外部系统**

而对于 **sink 端**，又有两种具体的实现方式：幂等（Idempotent）写入和事务性 （Transactional）写入。

*  ⚫ **幂等写入**所谓幂等操作，是说一个操作，可以重复执行很多次，但只导致一次结果更改， 也就是说，后面再重复执行就不起作用了。
 *  ⚫ **事务写入** 需要构建事务来写入外部系统，构建的事务对应着 checkpoint，等到 checkpoint 真正完成的时候，才把所有对应的结果写入 sink 系统中。

对于事务性写入，具体又有两种实现方式：**预写日志（WAL）**和**两阶段提交 （2PC）**。DataStream API 提供了 GenericWriteAheadSink 模板类和 TwoPhaseCommitSinkFunction 接口，可以方便地实现这两种方式的事务性写入。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 2][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 3][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 4][]

不同 Source 和 Sink 的一致性保证可以用下表说明：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 5][]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70]: /images/20221023/574163a3678d426cab556dfcb3b6cdee.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 1]: /images/20221023/7ce9ea665a074b788f82f2eac7822487.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 2]: /images/20221023/f4b3ea23f9004077adcacbf3e9033292.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 3]: /images/20221023/7219f9088bf442e9ae39b30cc003530a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 4]: /images/20221023/225c87a4833743b99185344e7a78cd35.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1N1eWViaXViaXU_size_16_color_FFFFFF_t_70 5]: /images/20221023/374ae04c480044409745e732352314f8.png