聊聊什么是缓存雪崩和缓存穿透

不念不忘少年蓝@ 2022-11-14 15:58 204阅读 0赞

## 缓存雪崩 ##

假如一个系统，它在高峰期有每秒7000个请求，这时我们使用缓存抗住了这么高的请求。但如果在某个时间点缓存大量失效，或者缓存服务器挂掉了，那么这些请求就会直接作用在普通数据库中（如MySQL）。这么高的请求量，MySQL肯定抗不住，进而挂掉，数据库一挂，也会导致系统挂掉。

![图片][5ff66583aca98cda27f289eaff3bd925.png]

我们总结缓存雪崩触发的条件：

> “
> 
>  *  高并发情况下
>  *  缓存服务器挂了
>  *  大量缓存集中失效
> 
> ”

导致的后果就是：系统崩溃。

解决思路，对数据库增加限流排队访问，假设我们的数据库最多能抗住每秒2000的请求，那当我们请求数据库时，每秒的请求就需要控制在2000内，其余的请求就需要排队。同时我们要保证缓存服务器的高可用，就需要使用集群。另外我们也需要随机设置缓存key的失效时间，防止key在同一时间失效。

![图片][a17c93d7b853d3f9381ebc10aa91f8dd.png]

雪崩解决

关于限流操作，可以使用Spring Cloud相关的限流插件，这里我们使用Semaphore信号量模拟下限流操作。

![图片][cb64279d7b74006beb12ff17eb97b4a1.png]

在这里我们限定同时最多可以有5个请求访问，当我们有9个请求进来时，只有5个请求获取到可以访问的令牌，其余的4个请求在外面等待。当前面的访问结束时，会释放令牌，后面的4个请求就会去抢占这些令牌，这样反复执行。

这里我们就起到了限流的操作。

## 缓存穿透 ##

假设存在一个key永远不会在缓存中存在，当黑客通过这个key去攻击系统，比如每秒发起了7000次攻击，那么无论如何都不会走缓存，攻击请求直接打在了数据库上，数据库肯定扛不住。导致了数据库崩溃，同时，系统也会崩溃。

![图片][2db35c224e3fc157ac5258e45497a10e.png]

穿透

我们的解决思路是：查询之前先判断目标数据是否存在，不存在的直接忽略。将流量拦截于缓存和数据库之前。

![图片][130e99dd5dac93f719758d7fb612623e.png]

穿透解决

如上图，增加过滤器，在系统启动之前，我们需要将热点数据统一加载进入缓存中，当对热点数据访问时，会通过过滤器判断一一次，发现请求在缓存中不存在，就直接返回，不会经过数据库。

过滤器我们可以使用布隆过滤器，布隆过滤器的示例代码如下：

![图片][88b2905db2107dde2da05bc9d413cc9c.png]

布隆过滤器主要就是将key通过hash算法计算出来的值分散到bitmap中，在bitmap中是以0和1存在的。

![图片][92c4e25fd0de1e423377c65c0290c54b.png]

bitmap图

然而上面的算法存在缺陷：

> “
> 
> 布隆过滤器并不能精准过滤。(布隆过滤器判定不存在，100%不存在，判断为存在，则可能不存在的。）理论上Hash计算值是有碰撞的（不同的内容hash计算出同样的值）,导致不存在的元素可能 会被判断为存在
> 
> ”

当然，布隆过滤器并非需要拦截所有的请求，只需要将缓存击穿控制在一定的量即可。

关于缓存穿透我们还可以采用以下方案：

> “
> 
> 缓存取不到的数据，在数据库中也没有取到，这时也可以将key-value对写为key-null，缓存有效时间可以设置短点，如30秒（设置太长会导致正常情况也没法使用）。这样可以防止攻击用户反复用同一个id暴力攻击。
> 
> ”

不过上面的方案有个缺陷：黑客可能同时拿多个不存在的key短时间访问，一样也会访问数据库，所以实际中需要按场景进行优化改造。

缓存雪崩和缓存穿透一般会在高并发形况下遇到，也是互联网大厂高频面试内容，掌握这些知识，相信你又进入了一个新天地。

# **往期推荐** #

*  [我写出这样干净的代码，老板直夸我][Link 1]
 *  [云南丽江旅游攻略][Link 2]
 *  [使用ThreadLocal怕内存泄漏？][ThreadLocal]
 *  [Java进阶之路思维导图][Java]
 *  [程序员必看书籍推荐][Link 3]
 *  [3万字的Java后端面试总结（附PDF）][3_Java_PDF]

扫码二维码，获取更多精彩。或微信搜**Lvshen\_9**，可后台回复获取资料

回复"java" 获取java电子书；
     
    回复"python"获取python电子书；
     
    回复"算法"获取算法电子书；
     
    回复"大数据"获取大数据电子书；
     
    回复"spring"获取SpringBoot的学习视频。
     
    回复"面试"获取一线大厂面试资料
     
    回复"进阶之路"获取Java进阶之路的思维导图
     
    回复"手册"获取阿里巴巴Java开发手册(嵩山终极版)
     
    回复"总结"获取Java后端面试经验总结PDF版
     
    回复"Redis"获取Redis命令手册，和Redis专项面试习题（PDF）
     
    回复"并发导图"获取Java并发编程思维导图（xmind终极版）

另：点击【**我的福利**】有更多惊喜哦。

![format_png][]

[5ff66583aca98cda27f289eaff3bd925.png]: /images/20221022/90809749056c4eb69132aaabe7a2da91.png
[a17c93d7b853d3f9381ebc10aa91f8dd.png]: https://img-blog.csdnimg.cn/img_convert/a17c93d7b853d3f9381ebc10aa91f8dd.png
[cb64279d7b74006beb12ff17eb97b4a1.png]: https://img-blog.csdnimg.cn/img_convert/cb64279d7b74006beb12ff17eb97b4a1.png
[2db35c224e3fc157ac5258e45497a10e.png]: https://img-blog.csdnimg.cn/img_convert/2db35c224e3fc157ac5258e45497a10e.png
[130e99dd5dac93f719758d7fb612623e.png]: https://img-blog.csdnimg.cn/img_convert/130e99dd5dac93f719758d7fb612623e.png
[88b2905db2107dde2da05bc9d413cc9c.png]: https://img-blog.csdnimg.cn/img_convert/88b2905db2107dde2da05bc9d413cc9c.png
[92c4e25fd0de1e423377c65c0290c54b.png]: https://img-blog.csdnimg.cn/img_convert/92c4e25fd0de1e423377c65c0290c54b.png
[Link 1]: http://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247487966&idx=1&sn=7810bd4f62f2b92bec831db2e1f35b97&chksm=cfb8bfe2f8cf36f4295a3560fc8fde094bf73e8e187ff589c6559ae7ed38584d8c67c1c20330&scene=21#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247487391&idx=1&sn=5847806bce7a105d6503eab52ea725be&chksm=cfb8a1a3f8cf28b517b36ded4dc1ec97334b0a685e5deb6f75d9a668c96d3fbc0c058e5432d8&scene=21#wechat_redirect
[ThreadLocal]: http://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247486830&idx=1&sn=3aa8095371b2e04dc0c954443a890ef4&chksm=cfb8a352f8cf2a444a4c54d19a5e74b03879c03e79209a1f7688fd9edd81edb35b43fea9578d&scene=21#wechat_redirect
[Java]: http://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247486701&idx=2&sn=8b6c8da8802d4fceb4ad06c229af5391&chksm=cfb8a2d1f8cf2bc71415098ecc807dfcb6bcfdde399ec92f79ead84f0f4352a5fdb7cf766593&scene=21#wechat_redirect
[Link 3]: http://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247486232&idx=1&sn=ac1ba6a9f543f7115098f820a7b41165&chksm=cfb8a524f8cf2c326861c7a0783a6ada2ba7a3e76c633cb9632af99f32de64a984fef5ba8a75&scene=21#wechat_redirect
[3_Java_PDF]: http://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247488123&idx=1&sn=9567232df10afbfede9688e4762c988c&chksm=cfb8bc47f8cf35512bced50381acb94713b51bb8691e895ba880a2b7863d7c882f4b54aec190&scene=21#wechat_redirect
[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy84MjJ5d2djOWRDS3M4TnVYVW12SHN2QVBFODZOQnB2TUQ2OGliY1QwV2NKVnRpYWVPMFd0MENkWnhwcklSVDVVYjdXTzJWMmljQzRPOEYwUW5pYURDT2RKWkEvNjQw?x-oss-process=image/format,png