分布式多级缓存系统设计与实战

亦凉 2024-03-22 10:01 56阅读 0赞

### 1. 缓存系统概述 ###

![format_png][]

如上图，是一次最基本的网络请求。用户请求从界面（浏览器或 App 界面）到网络转发、应用服务再到存储（数据库或文件系统），然后返回到界面呈现内容。

随着互联网的普及，内容信息越来越复杂，用户数和访问量越来越大，我们的应用需要支撑更多的并发量，同时我们的应用服务器和数据库服务器所做的计算也越来越多。但是往往我们的应用服务器资源是有限的，数据库每秒能接受的请求次数也是有限的。如何能够有效利用有限的资源来提供尽可能大的吞吐量？是每个开发同学绕不开的课题。一个有效的办法就是引入缓存，打破标准流程，如下图1到4每个环节中请求可以从缓存中直接获取目标数据并返回，从而减少计算量，有效提升响应速度，让有限的资源服务更多的用户。

![format_png 1][]

缓存可以应用上图1到4个的各个环节中，且不同环节缓存策略略有不同。本文将主要从3和4点讲解缓存的使用。

### 2. 缓存架构演变 ###

#### 2.1. 无缓存架构 ####

![format_png 2][]

如上图，是一次最基本的网络请求。请求从网络层直接请求到 DB。此时请求耗时最大卡点在**数据库的磁盘 IO 上**。

#### 2.2. 引入分布式缓存数据库 ####

针对2.1无缓存架构的**数据库磁盘IO**耗时，可添加了一道**缓存数据库**例如 redis。借助缓存中间件，可消除数据库的 IO 瓶颈。快速返回数据。如下图：

![format_png 3][]

通过缓

[format_png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/f75fdb8715d6474db5c1b1af8e13d0a2.png
[format_png 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/28d85766095c41ef90cab890a75b5a15.png
[format_png 2]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/e3a96ff9de8b4df29ebf8a959f3f8145.png
[format_png 3]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/6b1fbf1cea7042208d90071ae9212ae2.png