Flink窗口(Flink Window)

古城微笑少年丶 2024-04-22 06:56 92阅读 0赞

上一篇[flink watermark][]讲到Flink 中事件时间和水位线的概念，那它们有什么具体应用呢？当然是做基于时间的处理计算了。其中最常见的场景，就是窗口聚合计算。  
之前我们已经了解了 Flink 中基本的聚合操作。在流处理中，我们往往需要面对的是连续不断、无休无止的无界流，不可能等到所有所有数据都到齐了才开始处理。所以聚合计算其实只能针对当前已有的数据——之后再有数据到来，就需要继续叠加、再次输出结果。这样似乎很“实时”，但现实中大量数据一般会同时到来，需要并行处理，这样频繁地更新结果就会给系统带来很大负担了。

更加高效的做法是，把无界流进行切分，每一段数据分别进行聚合，结果只输出一次。这就相当于将无界流的聚合转化为了有界数据集的聚合，这就是所谓的“窗口”（Window）聚合操作。窗口聚合其实是对实时性和处理效率的一个权衡。在实际应用中，我们往往更关心一段时间内数据的统计结果，比如在过去的 1 分钟内有多少用户点击了网页。在这种情况下，我们就可以定义一个窗口，收集最近一分钟内的所有用户点击数据，然后进行聚合统计，最终输出一个结果就可以了。

### 窗口的概念 ###

Flink 是一种流式计算引擎，主要是来处理无界数据流的，数据源源不断、无穷无尽。想要更加方便高效地处理无界流，一种方式就是将无限数据切割成有限的“数据块”进行处理，这就是所谓的“窗口”（Window）。  
在 Flink 中, 窗口就是用来处理无界流的核心。我们很容易把窗口想象成一个固定位置的“框”，数据源源不断地流过来，到某个时间点窗口该关闭了，就停止收集数据、触发计算并输出结果。例如，我们定义一个时间窗口，每 10 秒统计一次数据，那么就相当于把窗口放在那里，从 0 秒开始收集数据；到 10 秒时，处理当前窗口内所有数据，输出一个结果，然后清空窗口继续收集数据；到 20 秒时，再对窗口内所有数据进行计算处理，输出结果；依次类推，如图所示。  
![在这里插入图片描述][003fe39d485d4494abbc50e87e26afb3.png]  
这里注意为了明确数据划分到哪一个窗口，定义窗口都是包含起始时间、不包含结束时间的，用数学符号表示就是一个左闭右开的区间，例如 0~10 秒的窗口可以表示为\[0, 10),这里单位为秒。  
对于处理时间下的窗口而言，这样理解似乎没什么问题。因为窗口的关闭是基于系统时间的，赶不上这班车的数据，就只能坐下一班车了——正如上图中，0~10 秒的窗口关闭后，可能还有时间戳为 9 的数据会来，它就只能进入 10~20 秒的窗口了。这样会造成窗口处理结果的不准确。  
然而如果我们采用事件时间语义，就会有些费解了。由于有乱序数据，我们需要设置一个延迟时间来等所有数据到齐。比如上面的例子中，我们可以设置延迟时间为 2 秒，如图 6-14所示，这样 0~10 秒的窗口会在时间戳为 12 的数据到来之后，才真正关闭计算输出结果，这样就可以正常包含迟到的 9 秒数据了。  
![在这里插入图片描述][079a428dd1ed4007aeebb0de35096c3b.png]  
所以在 Flink 中，窗口其实并不是一个“框”，流进来的数据被框住了就只能进这一个窗口。相比之下，我们应该把窗口理解成一个“桶”，如图 6-15 所示。在 Flink 中，窗口可以把流切割成有限大小的多个“存储桶”（bucket)；每个数据都会分发到对应的桶中，当到达窗口结束时间时，就对每个桶中收集的数据进行计算处理。  
![在这里插入图片描述][8196190718e6453a8b883aac6d5662d8.png]  
我们可以梳理一下事件时间语义下，之前例子中窗口的处理过程：  
（1）第一个数据时间戳为 2，判断之后创建第一个窗口\[0, 10），并将 2 秒数据保存进去；  
（2）后续数据依次到来，时间戳均在 \[0, 10）范围内，所以全部保存进第一个窗口；  
（3）11 秒数据到来，判断它不属于\[0, 10）窗口，所以创建第二个窗口\[10, 20），并将 11  
秒的数据保存进去。由于水位线设置延迟时间为 2 秒，所以现在的时钟是 9 秒，第一个窗口也  
没有到关闭时间；  
（4）之后又有 9 秒数据到来，同样进入\[0, 10）窗口中；  
（5）12 秒数据到来，判断属于\[10, 20）窗口，保存进去。这时产生的水位线推进到了 10  
秒，所以 \[0, 10）窗口应该关闭了。第一个窗口收集到了所有的 7 个数据，进行处理计算后输  
出结果，并将窗口关闭销毁；  
（6）同样的，之后的数据依次进入第二个窗口，遇到 20 秒的数据时会创建第三个窗口\[20,  
30）并将数据保存进去；遇到 22 秒数据时，水位线达到了 20 秒，第二个窗口触发计算，输出  
结果并关闭。  
这里需要注意的是，Flink 中窗口并不是静态准备好的，而是动态创建——当有落在这个  
窗口区间范围的数据达到时，才创建对应的窗口。另外，这里我们认为到达窗口结束时间时，  
窗口就触发计算并关闭，事实上“触发计算”和“窗口关闭”两个行为也可以分开，这部分内  
容我们会在后面详述。

### 窗口的分类 ###

#### 按照驱动类型分类 ####

窗口本身是截取有界数据的一种方式，所以窗口一个非常重要的信息其实就是“怎样截取数据”。换句话说，就是以什么标准来开始和结束数据的截取，我们把它叫作窗口的“驱动类型”。  
我们最容易想到的就是按照时间段去截取数据，这种窗口就叫作“时间窗口”（Time Window）。这在实际应用中最常见，之前所举的例子也都是时间窗口。除了由时间驱动之外，窗口其实也可以由数据驱动，也就是说按照固定的个数，来截取一段数据集，这种窗口叫作“计数窗口”（Count Window），如图  
![在这里插入图片描述][469ffaa2d55c411ca4c8a68ac75c7827.png]

##### 时间窗口（Time Window） #####

时间窗口以时间点来定义窗口的开始（start）和结束（end），所以截取出的就是某一时间段的数据。到达结束时间时，窗口不再收集数据，触发计算输出结果，并将窗口关闭销毁。所以可以说基本思路就是“定点发车”。  
Flink 中有一个专门的类来表示时间窗口，名称就叫作 TimeWindow。这个类只有两个私  
有属性：start 和 end，表示窗口的开始和结束的时间戳，单位为毫秒。  
`从窗口的设计来看其实就是 start秒~end秒-1毫秒，如下图源码所示`  
![在这里插入图片描述][db0f6ae19b3f447aba904becdc2da2de.png]

很明显，窗口中的数据，最大允许的时间戳就是 end - 1，这也就代表了我们定义的窗口  
时间范围都是左闭右开的区间\[start，end)。

##### 计数窗口（Count Window） #####

计数窗口基于元素的个数来截取数据，到达固定的个数时就触发计算并关闭窗口。这相当于座位有限、“人满就发车”，是否发车与时间无关。每个窗口截取数据的个数，就是窗口的大小。  
计数窗口相比时间窗口就更加简单，我们只需指定窗口大小，就可以把数据分配到对应的窗口中了。在 Flink 内部也并没有对应的类来表示计数窗口，底层是通过“全局窗口”（Global Window）来实现的。

#### 按照窗口分配数据的规则分类 ####

时间窗口和计数窗口，只是对窗口的一个大致划分；在具体应用时，还需要定义更加精细的规则，来控制数据应该划分到哪个窗口中去。不同的分配数据的方式，就可以有不同的功能应用。根据分配数据的规则，窗口的具体实现可以分为 4 类：滚动窗口（Tumbling Window）、滑动窗口（Sliding Window）、会话窗口（Session Window），以及全局窗口（Global Window）。

##### 滚动窗口（Tumbling Windows） #####

滚动窗口有固定的大小，是一种对数据进行“均匀切片”的划分方式。窗口之间没有重叠，也不会有间隔，是“首尾相接”的状态。如果我们把多个窗口的创建，看作一个窗口的运动，那就好像它在不停地向前“翻滚”一样。这是最简单的窗口形式，我们之前所举的例子都是滚动窗口。也正是因为滚动窗口是“无缝衔接”，所以每个数据都会被分配到一个窗口，而且只会属于一个窗口。  
滚动窗口可以基于时间定义，也可以基于数据个数定义；需要的参数只有一个，就是窗口的大小（window size）。比如我们可以定义一个长度为 1 小时的滚动时间窗口，那么每个小时就会进行一次统计；或者定义一个长度为 10 的滚动计数窗口，就会每 10 个数进行一次统计。  
![在这里插入图片描述][d38003a5bfb74699b021385c7184734f.png]  
`如上图所示，每隔一段时间窗口滚动计算一次，，我们对数据按照 userId 做了分区。当固定了窗 口大小之后，所有分区的窗口划分都是一致的；窗口没有重叠，每个数据只属于一个窗口。不会出现计算的数据有重叠的情况。`

##### 滑动窗口（Sliding Windows） #####

与滚动窗口类似，滑动窗口的大小也是固定的。区别在于，窗口之间并不是首尾相接的，而是可以“错开”一定的位置。如果看作一个窗口的运动，那么就像是向前小步“滑动”一样。既然是向前滑动，那么每一步滑多远，就也是可以控制的。所以定义滑动窗口的参数有两个：除去窗口大小（window size）之外，还有一个“滑动步长”（window slide），它其实就代表了窗口计算的频率。滑动的距离代表了下个窗口开始的时间间隔，而窗口大小是固定的，所以也就是两个窗口结束时间的间隔；窗口在结束时间触发计算输出结果，那么滑动步长就代表了计算频率。例如，我们定义一个长度为 1 小时、滑动步长为 5 分钟的滑动窗口，那么就会统计 1 小时内的数据，每 5 分钟统计一次。同样，滑动窗口可以基于时间定义，也可以基于数据个数定义。  
![在这里插入图片描述][ee019cf5f9d74b529353c80ceb0a02fb.png]  
`滑动窗口是每隔一段时间滑动一段距离，窗口之间的计算数据会有重叠，如window1中的数据在窗口滑动之后，和window2窗口中有重叠。`  
滑动窗口其实是固定大小窗口的更广义的一种形式；换句话说，滚动窗口也可以看作是一种特殊的滑动窗口——窗口大小等于滑动步长（size = slide）。当然，我们也可以定义滑动步长大于窗口大小，这样的话就会出现窗口不重叠、但会有间隔的情况；这时有些数据不属于任何一个窗口，就会出现遗漏统计。所以一般情况下，我们会让滑动步长小于窗口大小，并尽量设置为整数倍的关系。

##### 会话窗口（Session Windows） #####

会话窗口顾名思义，是基于“会话”（session）来来对数据进行分组的。这里的会话类似Web 应用中 session 的概念，不过并不表示两端的通讯过程，而是借用会话超时失效的机制来描述窗口。简单来说，就是数据来了之后就开启一个会话窗口，如果接下来还有数据陆续到来，那么就一直保持会话；如果一段时间一直没收到数据，那就认为会话超时失效，窗口自动关闭。这就好像我们打电话一样，如果时不时总能说点什么，那说明还没聊完；如果陷入了尴尬的沉默，半天都没话说，那自然就可以挂电话了。  
与滑动窗口和滚动窗口不同，会话窗口只能基于时间来定义，而没有“会话计数窗口”的概念。这很好理解，“会话”终止的标志就是“隔一段时间没有数据来”，如果不依赖时间而改成个数，就成了“隔几个数据没有数据来”，这完全是自相矛盾的说法。  
在 Flink 底层，对会话窗口的处理会比较特殊：每来一个新的数据，都会创建一个新的会话窗口；然后判断已有窗口之间的距离，如果小于给定的 size，就对它们进行合并（merge）操作。在 Window 算子中，对会话窗口会有单独的处理逻辑。  
我们可以看到，与前两种窗口不同，会话窗口的长度不固定，起始和结束时间也是不确定的，各个分区之间窗口没有任何关联。如图所示，会话窗口之间一定是不会重叠的，而且会留有至少为 size 的间隔（session gap）。  
![在这里插入图片描述][7d2d9df41ece46f0bf9133c697b2fab1.png]

##### 全局窗口（Global Windows） #####

还有一类比较通用的窗口，就是“全局窗口”。这种窗口全局有效，会把相同 key 的所有数据都分配到同一个窗口中；说直白一点，就跟没分窗口一样。无界流的数据永无止尽，所以这种窗口也没有结束的时候，默认是不会做触发计算的。如果希望它能对数据进行计算处理，还需要自定义“触发器”（Trigger）  
![在这里插入图片描述][89ae32f4375e440f8c9fcc69e23d70aa.png]  
`可以看到，全局窗口没有结束的时间点，所以一般在希望做更加灵活的窗口处理时自定义使用。Flink 中的计数窗口（Count Window），底层就是用全局窗口实现的。`

[flink watermark]: https://longfei.blog.csdn.net/article/details/128210343?spm=1001.2014.3001.5502
[003fe39d485d4494abbc50e87e26afb3.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/8c8957cc3fdd4b9099171972cf4c13ec.png
[079a428dd1ed4007aeebb0de35096c3b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/f1ec20a713cb4cae87a7b7e192cd1ece.png
[8196190718e6453a8b883aac6d5662d8.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/c816c65fa6ee4ed28433f29aac63cd0d.png
[469ffaa2d55c411ca4c8a68ac75c7827.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/8eefbde15b12420991c328dbac412fc9.png
[db0f6ae19b3f447aba904becdc2da2de.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/c66a808c6b6e4bec80803bfeb452b1b9.png
[d38003a5bfb74699b021385c7184734f.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/2fab06620682467f80b8238b14312e21.png
[ee019cf5f9d74b529353c80ceb0a02fb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/5bbeabd4a3014446895610a675710d86.png
[7d2d9df41ece46f0bf9133c697b2fab1.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/b0db902254f34a98ac60ef63ef5b7529.png
[89ae32f4375e440f8c9fcc69e23d70aa.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/22/5c545f3fa8c94135acef6eb9270a394f.png