Bitcask存储系统架构设计思想

待我称王封你为后i 2022-06-09 09:41 260阅读 0赞

**Bitcask存储系统架构设计思想**

Bitcask模型是一种日志型键值模型。所谓日志型，是指它不直接支持随机写入，而是像日志一样支持追加操作。Bitcask模型将随机写入转化为顺序写入。有两个好处：

*  提高随机写入的吞吐量，因为写操作不需要查找，直接追加即可
 *  如果使用SSD作为存储介质，能够更好的利用新硬件的特性

Bitcask中存在3种文件，包括数据文件,索引文件和线索文件(hint file,姑且就叫线索文件吧)。数据文件存储于磁盘上，包含了原始的数据的键值信息；索引文件存在于内存，用于记录记录的位置信息，启动Bitcask时，它会将所有数据的位置信息全部读入一个内存中的哈希表，也就是索引文件；线索文件(hint file)并不是Bitcask的必需文件，它的存在是为了提供启动时构建索引文件的速度。

## 1.日志型的数据文件 ##

何谓日志型？就是append only，所有写操作只追加而不修改老的数据，就像我们的各种服务器日志一样。在Bitcask模型中，数据文件以日志型只增不减的写入文件，而文件有一定的大小限制，当文件大小增加到相应的限制时，就会产生一个新的文件，老的文件将只读不写。在任意时间点，只有一个文件是可写的，在Bitcask模型中称其为active data file，而其他的已经达到限制大小的文件，称为older data file，如下图：

![Center][]

文件中的数据结构非常简单，是一条一条的数据写入操作，每一条数据的结构如下：

![Center 1][]

上面数据项分别为key，value，key的大小，value的大小，时间戳（应该是），以及对前面几项做的crc校验值。（数据删除操作也不会删除旧的条目，而是将value设定为一个特殊的值以作标示）

数据文件中就是连续一条条上面格式的数据，如下图：

![Center 2][]

好了，上面是日志型的数据文件，如果数据文件这样持续的存下去，肯定是会无限膨胀的，为了解决个问题，和其他日志型存储系统一样Bitcask也有一个定期的merge操作。

merge操作，即定期将所有older data file中的数据扫描一遍并生成新的data file（没有包括active data file 是因为它还在不停写入），这里的merge其实就是将对同一个key的多个操作以只保留最新一个的原则进行删除。每次merge后，新生成的数据文件就不再有冗余数据了。

## 2.基于hash表的索引数据 ##

上面讲到的是数据文件，日志类型的数据文件会让我们的写入操作非常快（日志型的优势之一是将磁盘当作磁带，进行顺序读写的效率非常高，可以参见[这里][Link 1]），而如果在这样的日志型数据上进行key值查找，那将是一件非常低效的事情。于是我们需要使用一些方法来提高查找效率。

例如在Bigtable中，使用bloom-filter算法为每一个数据文件维护一个bloom-filter 的数据块，以此来判定一个值是否在某一个数据文件中。

而在Bitcask模型中，我们使用了另一种方法，使用了一个基于hash表的索引数据结构。

在Bitcask模型中，除了存储在磁盘上的数据文件，还有另外一块数据，那就是存储在内存中的hash表，hash表的作用是通过key值快速的定位到value的位置。hash表的结构大致如下图所示：

![Center 3][]

hash表对应的这个结构中包括了三个用于定位数据value的信息，分别是文件id号(file\_id)，value值在文件中的位置（value\_pos）,value值的大小（value\_sz），于是我们通过读取file\_id对应文件的value\_pos开始的value\_sz个字节，就得到了我们需要的value值。整个过程如下图所示：

![Center 4][]

由于多了一个hash表的存在，我们的写操作就需要多更新一块内容，即这个hash表的对应关系。于是一个写操作就需要进行一次顺序的磁盘写入和一次内存操作。

## 3.有用的hint file ##

至此，Bitcask模型基本上已经讲述完成，而这一节讲到的hint file，则是一个有用的技巧，本人认为并不一定是Bitcask模型的必须特性。

从上面我们可以知道，我们称其为索引的hash表，是存储在内存中的，虽然在各自的实现中可以做一些持久化的保证，但是Bitcask模型中并不对在断电或重启后的hash表数据不丢失做出保证。

因此，如果我们不做额外的工作，那么我们启动时重建hash表时，就需要整个扫描一遍我们的数据文件，如果数据文件很大，这将是一个非常耗时的过程。因此Bitcask模型中包含了一个称作hint file的部分，目的在于提高重建hash表的速度。

我们上面讲到在old data file进行merge操作时，会产生新的data file，而Bitcask模型实际还鼓励生成一个hint file，这个hint file中每一项的数据结构，与data file中的数据结构非常相似，不同的是他并不存储具体的value值，而是存储value的位置（像在hash表中的一样），其结构如下图：

![Center 5][]

这样，在重建hash表时，就不需要再扫描所有data file文件，而仅仅需要将hint file中的数据一行行读取并重建即可。大大提高了利用数据文件重启数据库的速度。

[Center]: /images/20220609/056f93d3819d4491853b4aabc85ac1f5.png
[Center 1]: /images/20220609/f2d8bde4e3c24482a00be0a63062a650.png
[Center 2]: /images/20220609/6cdfe8d8c83b4e31aea1068914496bd1.png
[Link 1]: http://lgone.com/html/y2010/801.html
[Center 3]: /images/20220609/3227f5478add4e1b8fd1e065f3fc3145.png
[Center 4]: /images/20220609/d94b170313474aaca9e1e0f7030d1365.png
[Center 5]: /images/20220609/17ea927baa6345899bd527444aade226.png