20万用户同时访问一个热点Key，如何优化缓存架构？

﹏ヽ暗。殇╰゛Y 2022-01-23 04:15 166阅读 0赞

![在这里插入图片描述][20190602113949761.png]

> 来源：石杉的架构笔记（ID：shishan100）

这篇文章，咱们来聊聊热点缓存的架构优化问题。使用缓存集群的时候，最怕的就是热 Key、大 Value 这两种情况。

# 一、为什么要用缓存集群 #

啥叫热 Key 和大 Value 呢?简单来说，热 Key，就是你的缓存集群中的某个 Key 瞬间被数万甚至十万的并发请求打爆。

大 Value，就是你的某个 Key 对应的 Value 可能有 GB 级的大小，导致查询 Value 的时候出现网络相关的故障问题。

先来看看下面的一幅图：  
![在这里插入图片描述][20190602114017476.png]

简单来说，假设你手头有个系统，他本身是集群部署的，然后后面有一套缓存集群，这个集群不管你用 Redis Cluster，还是 Memcached，或者是公司自研缓存集群，都可以。

那么，这套系统用缓存集群干什么呢?很简单，在缓存里放一些平时不怎么变动的数据，然后用户在查询大量的平时不怎么变动的数据的时候，不就可以直接从缓存里走了吗?

缓存集群的并发能力是很强的，而且读缓存的性能是很高的。举个例子，假设你每秒有 2 万请求，但是其中 90% 都是读请求，那么每秒 1.8 万请求都是在读一些不太变化的数据，而不是写数据。

那此时你把数据都放在数据库里，然后每秒发送 2 万请求到数据库上读写数据，你觉得合适吗?

当然不太合适了，如果你要用数据库承载每秒 2 万请求的话，那么不好意思，你很可能就得搞分库分表 + 读写分离。

比如你得分 3 个主库，承载每秒 2000 的写入请求，然后每个主库挂 3 个从库，一共 9 个从库承载每秒 1.8 万的读请求。

这样的话，你可能就需要一共是 12 台高配置的数据库服务器，这是很耗费钱的，成本非常高，而且很不合适。

大家看看下面的图，来体会下这种情况：

![在这里插入图片描述][20190602114032322.png]

所以，此时你完全就可以把平时不太变化的数据放在缓存集群里，缓存集群可以采用 2 主 2 从，主节点用来写入缓存，从节点用来读缓存。

以缓存集群的性能，2 个从节点完全可以用来承载每秒 1.8 万的大量读了，然后 3 个数据库主库就是承载每秒 2000 的写请求和少量其他读请求就可以了。

大家看看下面的图，你耗费的机器瞬间变成了 4 台缓存机器 + 3 台数据库机器 = 7 台机器，是不是比之前的 12 台机器减少了很大的资源开销?

没错，缓存其实在系统架构里是非常重要的组成部分。很多时候，对于那些很少变化但是大量高并发读的数据，通过缓存集群来抗高并发读，是非常合适的。

![在这里插入图片描述][20190602114045797.png]

这里所有的机器数量、并发请求量都是一个示例，大家主要是体会一下这个意思就好，其目的主要是给一些不太熟悉缓存相关技术的同学一点背景性的阐述，让这些同学能够理解在系统里用缓存集群承载读请求是什么意思。

# 二、20 万用户同时访问一个热点缓存的问题 #

好了，背景是已经给大家解释清楚了，那么现在就可以给大家说说今天重点要讨论的问题：热点缓存。

我们来做一个假设，你现在有 10 个缓存节点来抗大量的读请求。正常情况下，读请求应该是均匀的落在 10 个缓存节点上的，对吧!

这 10 个缓存节点，每秒承载 1 万请求是差不多的。然后我们再做一个假设，你一个节点承载 2 万请求是极限，所以一般你就限制一个节点正常承载 1 万请求就 OK 了，稍微留一点 Buffer 出来。

好，所谓的热点缓存问题是什么意思呢?很简单，就是突然因为莫名的原因，出现大量的用户访问同一条缓存数据。

举个例子，某个明星突然宣布跟某某结婚，这个时候是不是会引发可能短时间内每秒都是数十万的用户去查看这个明星跟某某结婚的那条新闻?

那么假设那条新闻就是一个缓存，然后对应就是一个缓存 Key，就存在一台缓存机器上，此时瞬时假设有 20 万请求奔向那一台机器上的一个 Key。

此时会如何?我们看看下面的图，来体会一下这种绝望的感受：

![在这里插入图片描述][20190602114108942.png]

这个时候很明显了，我们刚才假设的是一个缓存 Slave 节点最多每秒就是 2 万的请求，当然实际缓存单机承载 5 万~10 万读请求也是可能的，我们这里就是一个假设。

结果此时，每秒突然奔过来 20 万请求到这台机器上，会怎么样?很简单，上面图里那台被 20 万请求指向的缓存机器会过度操劳而宕机的。

那么如果缓存集群开始出现机器的宕机，此时会如何?接着，读请求发现读不到数据，会从数据库里提取原始数据，然后放入剩余的其他缓存机器里去。

但是接踵而来的每秒 20 万请求，会再次压垮其他的缓存机器。以此类推，最终导致缓存集群全盘崩溃，引发系统整体宕机。

咱们看看下面的图，再感受一下这个恐怖的现场：

![在这里插入图片描述][20190602114125353.png]

# 三、基于流式计算技术的缓存热点自动发现 #

其实这里关键的一点，就是对于这种热点缓存，你的系统需要能够在热点缓存突然发生的时候，直接发现他，然后瞬间立马实现毫秒级的自动负载均衡。

那么我们就先来说说，你如何自动发现热点缓存问题?首先你要知道，一般出现缓存热点的时候，你的每秒并发肯定是很高的，可能每秒都几十万甚至上百万的请求量过来，这都是有可能的。

所以，此时完全可以基于大数据领域的流式计算技术来进行实时数据访问次数的统计，比如 Storm、Spark Streaming、Flink，这些技术都是可以的。

然后一旦在实时数据访问次数统计的过程中，比如发现一秒之内，某条数据突然访问次数超过了 1000，就直接立马把这条数据判定为是热点数据，可以将这个发现出来的热点数据写入比如 Zookeeper 中。

当然，你的系统如何判定热点数据，可以根据自己的业务还有经验值来就可以了。

大家看看下面这张图，看看整个流程是如何进行的：

![在这里插入图片描述][20190602114145694.png]

当然肯定有人会问，那你的流式计算系统在进行数据访问次数统计的时候，会不会也存在说单台机器被请求每秒几十万次的问题呢?

答案是否，因为流式计算技术，尤其是 Storm 这种系统，他可以做到同一条数据的请求过来，先分散在很多机器里进行本地计算，最后再汇总局部计算结果到一台机器进行全局汇总。

所以几十万请求可以先分散在比如 100 台机器上，每台机器统计了这条数据的几千次请求。

然后 100 条局部计算好的结果汇总到一台机器做全局计算即可，所以基于流式计算技术来进行统计是不会有热点问题的。  
![在这里插入图片描述][2019060211420092.png]

# 四、热点缓存自动加载为 JVM 本地缓存 #

我们自己的系统可以对 Zookeeper 指定的热点缓存对应的 Znode 进行监听，如果有变化他立马就可以感知到了。

此时系统层就可以立马把相关的缓存数据从数据库加载出来，然后直接放在自己系统内部的本地缓存里即可。

这个本地缓存，你用 Ehcache、Hashmap，其实都可以，一切都看自己的业务需求，主要说的就是将缓存集群里的集中式缓存，直接变成每个系统自己本地实现缓存即可，每个系统自己本地是无法缓存过多数据的。

因为一般这种普通系统单实例部署机器可能就一个 4 核 8G 的机器，留给本地缓存的空间是很少的，所以用来放这种热点数据的本地缓存是最合适的，刚刚好。

假设你的系统层集群部署了 100 台机器，那么好了，此时你 100 台机器瞬间在本地都会有一份热点缓存的副本。

然后接下来对热点缓存的读操作，直接系统本地缓存读出来就给返回了，不用再走缓存集群了。

这样的话，也不可能允许每秒 20 万的读请求到达缓存机器的一台机器上读一个热点缓存了，而是变成 100 台机器每台机器承载数千请求，那么那数千请求就直接从机器本地缓存返回数据了，这是没有问题的。

我们再来画一幅图，一起来看看这个过程：

![在这里插入图片描述][20190602114226274.png]

# 五、限流熔断保护 #

除此之外，在每个系统内部，还应该专门加一个对热点数据访问的限流熔断保护措施。

每个系统实例内部，都可以加一个熔断保护机制，假设缓存集群最多每秒承载4万读请求，那么你一共有 100 个系统实例。

你自己就该限制好，每个系统实例每秒最多请求缓存集群读操作不超过 400 次，一超过就可以熔断掉，不让请求缓存集群，直接返回一个空白信息，然后用户稍后会自行再次重新刷新页面之类的。

通过系统层自己直接加限流熔断保护措施，可以很好的保护后面的缓存集群、数据库集群之类的不要被打死，我们来看看下面的图：

![在这里插入图片描述][2019060211424790.png]

# 六、总结 #

具体要不要在系统里实现这种复杂的缓存热点优化架构呢?这个还要看你们自己的系统有没有这种场景了。

如果你的系统有热点缓存问题，那么就要实现类似本文的复杂热点缓存支撑架构。

但是如果没有的话，那么也别过度设计，其实你的系统可能根本不需要这么复杂的架构。

如果是后者，那么大伙儿就权当看看本文，来了解一下对应的架构思想好了。

> 作者：中华石杉，十余年BAT架构经验倾囊相授。  
> 个人微信公众号：石杉的架构笔记（ID：shishan100）

**热门内容：**

1、[系统又出Bug？这几个调优攻略，帮你解决大部分问题！][Bug]

2、[多线程，到底该设置多少个线程？][Link 1]

3、[生产环境下到底该如何部署Tomcat？][Tomcat]

4、[神级代码注释鉴赏，喜欢就拿去用！][Link 2]

5、[开源的13个Spring Boot 优秀学习项目！超53K星，一网打尽！][13_Spring Boot _53K]

6、[华为海思总裁致员工信：不再有换胎机会，必当科技自立！][Link 3]

7、[不了解这12个语法糖，别说你会Java！][12_Java]

8、[小小的分页问题引发的加班血案！][Link 4]

![在这里插入图片描述][20190602133102112.png]

[【视频福利】2T免费学习视频，搜索或扫描上述二维码关注微信公众号：Java后端技术（ID: JavaITWork）回复：**1024**，即可免费获取！内含SSM、Spring全家桶、微服务、MySQL、MyCat、集群、分布式、中间件、Linux、网络、多线程，Jenkins、Nexus、Docker、ELK等等免费学习视频，持续更新！][2T_Java_ID_ JavaITWork_1024_SSM_Spring_MySQL_MyCat_Linux_Jenkins_Nexus_Docker_ELK]

[20190602113949761.png]: /images/20220123/285919cb770c401e92693b1ee4d8a95d.png
[20190602114017476.png]: /images/20220123/d93909e33e464f41bae4711070f17864.png
[20190602114032322.png]: /images/20220123/4f113da5e5544a57bd3055766ca00c18.png
[20190602114045797.png]: /images/20220123/19abf70dd425460f96abd25cd67eca82.png
[20190602114108942.png]: /images/20220123/73d9fb3730c54b42bca162d6be093e90.png
[20190602114125353.png]: /images/20220123/2393ea7b8a43494da473aae4b81ff7c7.png
[20190602114145694.png]: /images/20220123/c96499008f944f49ba4427954495d240.png
[2019060211420092.png]: /images/20220123/d8ec597fe78c4a67957ddbc8d2e6b0fe.png
[20190602114226274.png]: /images/20220123/047994cac84041029e6f0178e55c99bf.png
[2019060211424790.png]: /images/20220123/37cae1f8f6914305894f20c1b298831b.png
[Bug]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489153&idx=1&sn=7277d5dc687d7e4af4adc33c88ea18a1&chksm=e9c5ef30deb26626f3679a934f9b3e6c557178317cd0565a5579fac40c6f75ca9434d92ca00c&scene=21#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489204&idx=1&sn=8fef7ed3697512e74c1f779814248b96&chksm=e9c5ef05deb2661309e85623d279652bdb7e82616b9c1aea59f2e86676b9a7e5fa72628f3a1a&scene=21#wechat_redirect
[Tomcat]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489169&idx=1&sn=b4ccca6be5e2cc5e49c4cc0d60dae473&chksm=e9c5ef20deb2663614bd2a49c096f6de7add31d007eb70e7acae0a55b8d53e93e4132e7fb4cd&scene=21#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489144&idx=1&sn=4cf20994e33cfee1f24891473c3beea3&chksm=e9c5efc9deb266dfbe93f00b4b0db339df9f58c51bc4fcc4c012a38a8cc111bf9c0fd751221b&scene=21#wechat_redirect
[13_Spring Boot _53K]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489140&idx=1&sn=c21fc8f6c3182f18bc47903af8b31f34&chksm=e9c5efc5deb266d37e4e96644e7127d42aa9fe7a78be72576594c33445934034ac85d7461da1&scene=21#wechat_redirect
[Link 3]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489118&idx=1&sn=a852c339f66ebca55374463fddf33fb5&chksm=e9c5efefdeb266f9488c94c40e4bf1435186a8eb46353da1a3973758c21e0f828c6588c2541e&scene=21#wechat_redirect
[12_Java]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489107&idx=1&sn=d0a60ad989170900e4ba802d522a8e22&chksm=e9c5efe2deb266f441851120cb2476b8246fabfc4596769cd4e6852ea3fee99d813b17c5cd4a&scene=21#wechat_redirect
[Link 4]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=2247489037&idx=1&sn=1748eca86c5d251c1e52ad26ddbed9e4&chksm=e9c5efbcdeb266aa205989064fc602606511d4372a278996a198177e66b400bfddab6555a902&scene=21#wechat_redirect
[20190602133102112.png]: /images/20220123/ed65d183474b450c80f3a6d7f7bcb7ee.png
[2T_Java_ID_ JavaITWork_1024_SSM_Spring_MySQL_MyCat_Linux_Jenkins_Nexus_Docker_ELK]: http://mp.weixin.qq.com/s?__biz=MzI1NDQ3MjQxNA==&mid=100005643&idx=1&sn=ed08bcf127fc549202ff273abeeb3d1a&chksm=69c5eeba5eb267ac550ed247d72d6c43e11551f25fe80f8ea6a3146682ce2266dad880ce48de#rd