Flink非对齐checkpoint原理（Flink Unaligned Checkpoint）

阳光穿透心脏的1/2处 2024-03-22 23:27 81阅读 0赞

### Flink非对齐checkpoint原理（Flink Unaligned Checkpoint） ###

#### 为什么提出Unaligned Checkpoint（UC）？ ####

因为反压严重时会导致Checkpoint失败，可能导致如下问题

*  恢复时间长-服务效率低
 *  非幂等和非事务会导致数据重复
 *  持续反压导致任务加入死循环（可能导致数据丢失，例如超过kafka的过期时间无法重置offset）

#### UC的原理 ####

UC有两个阶段（UC主要是快速超越buffer data）

1.  第一阶段：UC同步阶段（任意一个barrier加入缓冲区即开始UC，barrier 直接超越所有input和outputBuffer（算子暂停处理数据））
    
     *  barrier超越
     *  对buffer进行引用
     *  调用算子snapshot state
     *  引用state
2.  第二阶段：异步阶段（等待所有input channel的barrier都到达）
    
     *  写算子的state（同步阶段引用的state）
     *  同步阶段引用的input&output buffer
     *  写其它inputChannel Barrier之前的buffer（如下图中蓝色f和G）
     *  汇报给jobmanager
    
    ![88314abbb8be486185a449a5ab779625.png][]

#### UC已进行的优化 ####

##### Task原理 #####

Task处理逻辑如下，线程可能卡在结果输出影响UC

![在这里插入图片描述][95748fc4c53e4caf828cc076325bb8c5.png]

##### 优化一 #####

优化：判断有空闲output buffer再处理数据

![在这里插入图片描述][43ffd302f1874b7a8dfa9ef1b0e9962b.png]

需要多个buffer时还是会卡住，比如flatmap操作

##### 优化二 #####

优化：使用OverDraft Buffer透支Buffer，一旦透支buffer则不能处理数据（1.16已有透支Buffer功能）

![在这里插入图片描述][f138e88580754b24b003eea7ad78cf5b.png]

##### 其它优化 #####

优化：Legacy Source（Legacy Source 是 Flink 中的一种数据源，它是在 Flink 1.0 版本中引入的，并在后续版本中被视为过时的来源）兼容UC

![在这里插入图片描述][ecd4c51d5beb4218bb19b3891fc6f94c.png]

##### 小结 #####

*  等待空闲Buffer+引入透支overdraft Buffer解决卡顿问题
 *  Legacy source兼容等待空闲Buffer逻辑

#### UC风险 ####

*  序列化不兼容，无法重启
 *  算子连接变化UC无法恢复
 *  Data Buffer会写大量小文件，导致DataNode压力过大
    
     *  使用Task共享文件（execution.checkpointing.channel-state.number-of-tasks-share-file）
 *  会出现死锁或内存泄漏

##### UC&AC对比 #####

![在这里插入图片描述][3177c00063544376a1d7e14756472197.png]

优化：在AC超时自动切换到UC（1.11版本开始）

配置方法（1.11以后版本）

execution.checkpointing.aligned-checkpoint.timeout: 10m
    execution.checkpointing.unaligned-checkpoint.enabled: true

#### 参考文档 ####

https://www.bilibili.com/video/BV1tR4y1y7gQ/?spm\_id\_from=…search-card.all.click&vd\_source=a52a4a5afaf8d47cb48d828c7e22e5f1

[88314abbb8be486185a449a5ab779625.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/e135f3aeed6742a69746e9b56476e0f6.png
[95748fc4c53e4caf828cc076325bb8c5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/986e82dd503342fba13f212b89a47762.png
[43ffd302f1874b7a8dfa9ef1b0e9962b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/4f621339d151404e9e3130d28ffa7cf1.png
[f138e88580754b24b003eea7ad78cf5b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/2919db3d6c46413899adaf233b7511f1.png
[ecd4c51d5beb4218bb19b3891fc6f94c.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/0e0cbdb6b9c1490c87c161761f75ee4e.png
[3177c00063544376a1d7e14756472197.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/284662b511bf451a93825b7ba42e29fa.png