理解分布式系统中的缓存架构

àì夳堔傛蜴生んèń 2023-05-31 10:06 0阅读 0赞

本文主要介绍大型分布式系统中缓存的相关理论，常见的缓存组件以及应用场景。

# 1 缓存概述 #

![缓存概述][1]

# 2 缓存的分类 #

缓存主要分为以下四类

![缓存的分类][1 1]

## 2.1 CDN缓存 ##

### 基本介绍 ###

CDN(Content Delivery Network 内容分发网络)的基本原理是广泛采用各种缓存服务器，将这些缓存服务器分布到用户访问相对集中的地区或网络中，在用户访问网站时，利用全局负载技术将用户的访问指向距离最近的工作正常的缓存服务器上，由缓存服务器直接响应用户请求

### 应用场景 ###

主要缓存静态资源，例如图片，视频

### 应用图 ###

![未使用CDN缓存][CDN]

![使用CDN缓存][CDN 1]

### 优点 ###

![优点][1 2]

## 2.2 反向代理缓存 ##

### 基本介绍 ###

反向代理位于应用服务器机房，处理所有对WEB服务器的请求。 如果用户请求的页面在代理服务器上有缓冲的话，代理服务器直接将缓冲内容发送给用户。如果没有缓冲则先向WEB服务器发出请求，取回数据，本地缓存后再发送给用户。通过降低向WEB服务器的请求数，从而降低了WEB服务器的负载。

### 应用场景 ###

一般只缓存体积较小静态文件资源，如css、js、图片

### 应用图 ###

![反向代理缓存应用图][1 3]

### 开源实现 ###

![开源实现][1 4]

## 2.3 本地应用缓存 ##

### 基本介绍 ###

指的是在应用中的缓存组件，其最大的优点是应用和cache是在同一个进程内部，请求缓存非常快速，没有过多的网络开销等，在单应用不需要集群支持或者集群情况下各节点无需互相通知的场景下使用本地缓存较合适； 同时，它的缺点也是应为缓存跟应用程序耦合，多个应用程序无法直接的共享缓存，各应用或集群的各节点都需要维护自己的单独缓存，对内存是一种浪费。

### 应用场景 ###

缓存字典等常用数据

### 缓存介质 ###

![缓存介质][1 5]

### 实现 ###

#### 编程直接实现 ####

![编程直接实现][1 6]

#### Ehcache ####

##### 基本介绍 #####

Ehcache是一种基于标准的开源缓存，可提高性能，卸载数据库并简化可伸缩性。 它是使用最广泛的基于Java的缓存，因为它功能强大，经过验证，功能齐全，并与其他流行的库和框架集成。Ehcache可以从进程内缓存扩展到使用TB级缓存的混合进程内/进程外部署

##### 应用场景 #####

![Ehcache应用场景][Ehcache]

##### Ehcache架构图 #####

![Ehcache架构图][Ehcache 1]

##### Ehcache主要特征 #####

![Ehcache主要特征][Ehcache 2]

##### Ehcache缓存数据过期策略 #####

![缓存数据过期策略.png][.png]

##### Ehcache过期数据淘汰机制 #####

**懒淘汰机制**：每次往缓存放入数据的时候，都会存一个时间，在读取的时候要和设置的时间做TTL比较来判断是否过期

#### Guava Cache ####

## 2.4 分布式缓存 ##

##### 基本介绍 #####

Guava Cache是Google开源的Java重用工具集库Guava里的一款缓存工具

##### 特点与功能 #####

![Guava Cache特点与功能.png][Guava Cache_.png]

##### 应用场景 #####

![Guava Cache应用场景.png][Guava Cache_.png 1]

##### 数据结构图 #####

![Guava Cache数据结构图][Guava Cache]

![Guava Cache结构特点.png][Guava Cache_.png 2]

##### 缓存更新策略 #####

![Guava Cache 缓存更新策略][Guava Cache 1]

##### 缓存回收策略 #####

![Guava Cache缓存回收策略.png][Guava Cache_.png 3]

## 2.4 分布式缓存 ##

指的是与应用分离的缓存组件或服务，其最大的优点是自身就是一个独立的应用，与本地应用隔离，多个应用可直接的共享缓存。

主要应用场景

![分布式缓存应用场景.png][.png 1]

主要接入方式

![分布式缓存接入方式.png][.png 2]

下面介绍分布式缓存常见的2大开源实现Memcached和Redis

### Memcached ###

#### 基本介绍 ####

Memcached是一个高性能，分布式内存对象缓存系统，通过在内存里维护一个统一的巨大的hash表，它能够用来存储各种格式的数据，包括图像、视频、文件以及数据库检索的结果等。简单的说就是将数据调用到内存中，然后从内存中读取，从而大大提高读取速度。

#### 特点 ####

![Memcached特点][Memcached]

#### 基本架构 ####

![Memcached基本架构][Memcached 1]

#### 缓存数据过期策略 ####

**LRU（最近最少使用）到期失效策略**，在Memcached内存储数据项时，可以指定它在缓存的失效时间，默认为永久。当Memcached服务器用完分配的内时，失效的数据被首先替换，然后也是最近未使用的数据。

#### 数据淘汰内部实现 ####

**懒淘汰机制**：每次往缓存放入数据的时候，都会存一个时间，在读取 的时候要和设置的时间做TTL比较来判断是否过期

#### 分布式集群实现 ####

服务端并没有 “ 分布式 ” 功能。每个服务器都是完全独立和隔离的服务。 Memcached的分布式，是由客户端程序实现的

![数据读写流程图][1 7]

![Memcached分布式集群实现][Memcached 2]

### Redis ###

#### 基本介绍 ####

**Redis是一个远程内存数据库（非关系型数据库）**，性能强劲，具有复制特性以及解决问题而生的独一无二的数据模型。它可以存储键值对与5种不同类型的值之间的映射，可以将存储在内存的键值对数据持久化到硬盘，可以使用复制特性来扩展读性能， Redis还可以使用客户端分片来扩展写性能。内置了 复制（replication），LUA脚本（Lua scripting），LRU驱动事件（LRU eviction），事务（transactions） 和不同级别的 磁盘持久化（persistence）， 并通过 Redis哨兵（Sentinel）和自动分区（Cluster）提供高可用性（high availability）。

#### 数据模型 ####

![Redis数据模型][Redis]

#### 数据淘汰策略 ####

![Redis数据淘汰策略][Redis 1]

#### 数据淘汰内部实现 ####

![Redis数据淘汰内部实现.png][Redis_.png]

#### 持久化方式 ####

![Redis持久化方式][Redis 2]

#### 底层实现部分解析 ####

*  启动的部分过程图解
    
    ![启动的部分过程][1 8]
 *  server端持久化的部分操作图解
    
    ![server端持久化的部分操作][server]
 *  底层哈希表实现(渐进式Rehash)

**初始化字典**

![初始化字典][1 9]

**新增字典元素图解**

![新增字典元素图解][1 10]

**Rehash执行流程**

![Rehash执行流程][Rehash]

#### 缓存设计原则 ####

![Redis缓存设计原则.png][Redis_.png 1]

### Redis与Memcached比较 ###

<table> 
 <thead> 
  <tr> 
   <th></th> 
   <th>Redis</th> 
   <th>Memcached</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>支持的数据结构</td> 
   <td>哈希、列表、集合、有序集合</td> 
   <td>纯kev-value</td> 
  </tr> 
  <tr> 
   <td>持久化支持</td> 
   <td>有</td> 
   <td>无</td> 
  </tr> 
  <tr> 
   <td>高可用支持</td> 
   <td>redis天然支持集群功能，可以实现主动复制，读写分离。官方也提供了sentinel集群管理工具，能够实现主从服务监控，故障自动转移，这一切，对于客户端都是透明的，无需程序改动，也无需人工介入</td> 
   <td>需要二次开发</td> 
  </tr> 
  <tr> 
   <td>存储value容量</td> 
   <td>最大512M</td> 
   <td>最大1M</td> 
  </tr> 
  <tr> 
   <td>内存分配</td> 
   <td>临时申请空间，可能导致碎片</td> 
   <td>预分配内存池的方式管理内存，能够省去内存分配时间</td> 
  </tr> 
  <tr> 
   <td>虚拟内存使用</td> 
   <td>有自己的VM机制，理论上能够存储比物理内存更多的数据，当数据超量时，会引发swap，把冷数据刷到磁盘上</td> 
   <td>所有的数据存储在物理内存里</td> 
  </tr> 
  <tr> 
   <td>网络模型</td> 
   <td>非阻塞IO复用模型,提供一些非KV存储之外的排序，聚合功能，在执行这些功能时，复杂的CPU计算，会阻塞整个IO调度</td> 
   <td>非阻塞IO复用模型</td> 
  </tr> 
  <tr> 
   <td>水平扩展的支持</td> 
   <td>暂无</td> 
   <td>暂无</td> 
  </tr> 
  <tr> 
   <td>多线程</td> 
   <td>Redis支持单线程</td> 
   <td>Memcached支持多线程,CPU利用方面Memcache优于Redis</td> 
  </tr> 
  <tr> 
   <td>过期策略</td> 
   <td>有专门线程，清除缓存数据</td> 
   <td>懒淘汰机制：每次往缓存放入数据的时候，都会存一个时间，在读取的时候要和设置的时间做TTL比较来判断是否过期</td> 
  </tr> 
  <tr> 
   <td>单机QPS</td> 
   <td>约10W</td> 
   <td>约60W</td> 
  </tr> 
  <tr> 
   <td>源代码可读性</td> 
   <td>代码清爽简洁</td> 
   <td>能是考虑了太多的扩展性，多系统的兼容性，代码不清爽</td> 
  </tr> 
  <tr> 
   <td><strong>适用场景</strong></td> 
   <td>复杂数据结构、有持久化、高可用需求、value存储内容较大</td> 
   <td>纯KV，数据量非常大，并发量非常大的业务</td> 
  </tr> 
 </tbody> 
</table>

# 1 分层缓存架构设计 #

![1 11][]

# 2 缓存带来的复杂度问题 #

常见的问题主要包括

*  数据一致性
 *  缓存穿透
 *  缓存雪崩
 *  缓存高可用
 *  缓存热点 下面逐一介绍分析这些问题以及相应的解决方案。

## 数据一致性 ##

因为缓存属于持久化数据的一个副本，因此不可避免的会出现数据不一致问题。导致脏读或读不到数据的情况。数据不一致，一般是因为网络不稳定或节点故障导致

问题出现的常见3个场景以及解决方案：

![数据一致性问题场景及解决][1 12]

## 缓存穿透 ##

缓存一般是Key，value方式存在，当某一个Key不存在时会查询数据库，假如这个Key，一直不存在，则会频繁的请求数据库，对数据库造成访问压力。

**主要解决方案**：

*  对结果为空的数据也进行缓存，当此key有数据后，清理缓存
 *  一定不存在的key，采用布隆过滤器，建立一个大的Bitmap中，查询时通过该bitmap过滤

## 缓存雪崩 ##

![缓存雪崩][1 13]

## 缓存高可用 ##

缓存是否高可用，需要根据实际的场景而定，并不是所有业务都要求缓存高可用，需要结合具体业务，具体情况进行方案设计，例如临界点是是否对后端的数据库造成影响。

**主要解决方案**：

*  分布式：实现数据的海量缓存
 *  复制：实现缓存数据节点的高可用

## 缓存热点 ##

一些特别热点的数据，高并发访问同一份缓存数据，导致缓存服务器压力过大。

**解决**：复制多份缓存副本，把请求分散到多个缓存服务器上，减轻缓存热点导致的单台缓存服务器压力

# 3 业界案例 #

案例主要参考新浪微博陈波的[技术分享][Link 1]

## 技术挑战 ##

![技术挑战][1 14]

## Feed缓存架构图 ##

![Feed缓存架构][Feed]

## 架构特点 ##

新浪微博把SSD应用在分布式缓存场景中，将传统的Redis/MC + Mysql方式，扩展为 Redis/MC + SSD Cache + Mysql方式，SSD Cache作为L2缓存使用，第一降低了MC/Redis成本过高，容量小的问题，也解决了穿透DB带来的数据库访问压力

主要在数据架构、性能、储存成本、服务化等不同方面进行了优化增强

![1 15][]

![架构关注点][1 16]

> 更多精彩，欢迎关注作者公众号【分布式系统架构】

# 参考 #

[从0开始学架构 —— Alibaba 李运华 ][0_ _ Alibaba _]

[Java核心技术36讲—— Oracle 杨晓峰][Java_36_ Oracle]

[微博Cache架构设计实践 —— 陈波][Link 1]

[缓存在大型分布式系统中的最佳应用 —— 侯忠好 ][_ _]

[缓存，并发更新的大坑？ —— 58沈剑][_ 58]

[分布式缓存设计—— crossoverJie][crossoverJie]

[1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d42d3347b0?imageView2/0/w/1280/h/960/ignore-error/1
[1 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d42cff29f5?imageView2/0/w/1280/h/960/ignore-error/1
[CDN]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d42d64a4da?imageView2/0/w/1280/h/960/ignore-error/1
[CDN 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d42c9e586d?imageView2/0/w/1280/h/960/ignore-error/1
[1 2]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d42cbdd9df?imageView2/0/w/1280/h/960/ignore-error/1
[1 3]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d455b0bef0?imageView2/0/w/1280/h/960/ignore-error/1
[1 4]: https://user-gold-cdn.xitu.io/2018/7/9/1647e46aa24ca7a7?imageView2/0/w/1280/h/960/ignore-error/1
[1 5]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d462ac95cc?imageView2/0/w/1280/h/960/ignore-error/1
[1 6]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d455d869a4?imageView2/0/w/1280/h/960/ignore-error/1
[Ehcache]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d464311a44?imageView2/0/w/1280/h/960/ignore-error/1
[Ehcache 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d469fe59db?imageView2/0/w/1280/h/960/ignore-error/1
[Ehcache 2]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d47039f5d8?imageView2/0/w/1280/h/960/ignore-error/1
[.png]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d472689a03?imageView2/0/w/1280/h/960/ignore-error/1
[Guava Cache_.png]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d477d892c0?imageView2/0/w/1280/h/960/ignore-error/1
[Guava Cache_.png 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d488385909?imageView2/0/w/1280/h/960/ignore-error/1
[Guava Cache]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d489d9e142?imageView2/0/w/1280/h/960/ignore-error/1
[Guava Cache_.png 2]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d49505e52c?imageView2/0/w/1280/h/960/ignore-error/1
[Guava Cache 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d49d5aac3f?imageView2/0/w/1280/h/960/ignore-error/1
[Guava Cache_.png 3]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4a657389c?imageView2/0/w/1280/h/960/ignore-error/1
[.png 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4b3ff7aed?imageView2/0/w/1280/h/960/ignore-error/1
[.png 2]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4b4da577c?imageView2/0/w/1280/h/960/ignore-error/1
[Memcached]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4be370b20?imageView2/0/w/1280/h/960/ignore-error/1
[Memcached 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4c5e259ac?imageView2/0/w/1280/h/960/ignore-error/1
[1 7]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4c638087f?imageView2/0/w/1280/h/960/ignore-error/1
[Memcached 2]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4c9774572?imageView2/0/w/1280/h/960/ignore-error/1
[Redis]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4cc28ecda?imageView2/0/w/1280/h/960/ignore-error/1
[Redis 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4f1079209?imageView2/0/w/1280/h/960/ignore-error/1
[Redis_.png]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4f1138be4?imageView2/0/w/1280/h/960/ignore-error/1
[Redis 2]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4f628a495?imageView2/0/w/1280/h/960/ignore-error/1
[1 8]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d4fe3064e2?imageView2/0/w/1280/h/960/ignore-error/1
[server]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d504918a50?imageView2/0/w/1280/h/960/ignore-error/1
[1 9]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d505f11eba?imageView2/0/w/1280/h/960/ignore-error/1
[1 10]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d51dc3a779?imageView2/0/w/1280/h/960/ignore-error/1
[Rehash]: 
[Redis_.png 1]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7d521bb9ff9?imageView2/0/w/1280/h/960/ignore-error/1
[1 11]: https://user-gold-cdn.xitu.io/2018/7/10/16484aac62773fe2?imageView2/0/w/1280/h/960/ignore-error/1
[1 12]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7f9ec8f1202?imageView2/0/w/1280/h/960/ignore-error/1
[1 13]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7f9ec8a0dc7?imageView2/0/w/1280/h/960/ignore-error/1
[Link 1]: https://mp.weixin.qq.com/s/YxGeisz0L9Ja2dwsiZz01w
[1 14]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7f9ecaf13d8?imageView2/0/w/1280/h/960/ignore-error/1
[Feed]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7fa0fc8985b?imageView2/0/w/1280/h/960/ignore-error/1
[1 15]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7fa178d2134?imageView2/0/w/1280/h/960/ignore-error/1
[1 16]: https://user-gold-cdn.xitu.io/2018/7/9/1647c7fa17d4b90f?imageView2/0/w/1280/h/960/ignore-error/1
[0_ _ Alibaba _]: https://time.geekbang.org/column/intro/81?code=OK4eM0TBPTKGPRCzcZdzIeXjPACLfY3KCzATXOSWzXE%3D
[Java_36_ Oracle]: https://time.geekbang.org/column/intro/82?code=w8EZ6RGOQApZJ5tpAzP8dRzeVHxZ4q%2FfOdSbSZzbkhc%3D
[_ _]: http://dbaplus.cn/news-21-969-1.html
[_ 58]: https://mp.weixin.qq.com/s/c6TZdfLfpPWXmEdTkGO97g
[crossoverJie]: https://github.com/crossoverJie/Java-Interview/blob/master/MD/Cache-design.md