Ceph性能测试（RBD、CephFS、NFS、Cache Tier）

╰+攻爆jí腚メ 2022-11-29 03:14 1235阅读 0赞

> 本文是以下两篇文章的后续：
> 
> 1.  [探索fio参数如何选择以及全方位对比HDD和SSD性能][fio_HDD_SSD]：部署Ceph前测试磁盘性能，同时基于fio测试参数的变化深入了解fio原理和磁盘IO特点。
> 2.  [CentOS8使用cephadm部署和配置Ceph Octopus][CentOS8_cephadm_Ceph Octopus]：在CentOS8上使用cephadmin进行Ceph Octopus版本的部署，以及RBD、CephFS、NFS、RGW等的配置。

本文测试内容：

*  Ceph集群性能随OSD个数的增加（2个、4个、6个、8个）性能的变化；
 *  Ceph存储随IO队列深度提高（1、2、4、8、16、32、64）的性能变化；
 *  Ceph存储与HDD单盘性能的对比（numjobs并发任务个数的影响）；
 *  Cache Tier的性能（不科学测试）。

> 测试过程日志：https://github.com/get-set/fio-bench-disks-ceph/tree/master/ceph

### 准备工作 ###

本文所测试的Ceph集群：

<table> 
 <thead> 
  <tr> 
   <th>主机</th> 
   <th>IP</th> 
   <th>配置</th> 
   <th>磁盘(除系统盘)</th> 
   <th>服务</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>ceph-mon1（虚拟机）</td> 
   <td>192.168.7.11</td> 
   <td>4C/8G</td> 
   <td></td> 
   <td>MON、prom+grafana</td> 
  </tr> 
  <tr> 
   <td>ceph-mon2（虚拟机）</td> 
   <td>192.168.7.12</td> 
   <td>4C/8G</td> 
   <td></td> 
   <td>MON、MGR</td> 
  </tr> 
  <tr> 
   <td>ceph-mon3（虚拟机）</td> 
   <td>192.168.7.13</td> 
   <td>4C/8G</td> 
   <td></td> 
   <td>MON、MGR</td> 
  </tr> 
  <tr> 
   <td>ceph-osd1（物理机）</td> 
   <td>192.168.7.14</td> 
   <td>40C/64G</td> 
   <td>1.6T SSD/4T SAS * 4</td> 
   <td>OSD、MDS、NFS、RGW</td> 
  </tr> 
  <tr> 
   <td>ceph-osd2（物理机）</td> 
   <td>192.168.7.15</td> 
   <td>40C/64G</td> 
   <td>1.6T SSD/4T SAS * 4</td> 
   <td>OSD、MDS、NFS、RGW</td> 
  </tr> 
 </tbody> 
</table>

> 部署和配置的详细过程见[CentOS8使用cephadm部署和配置Ceph Octopus][CentOS8_cephadm_Ceph Octopus]。

首先，单独准备一台测试节点，起一个CentOS8的虚拟机，配好地址和万兆网络。

#### 确保网络带宽 ####

使用`iperf3`工具测试一下与Ceph集群各节点的带宽：

在Ceph集群节点上：

❯ dnf install -y iperf3
    ❯ firewall-cmd --zone=public --add-port=5201/tcp --permanent
    ❯ firewall-cmd --reload
    
    // iperf3 -s <节点的IP>
    ❯ iperf3 -s 192.168.7.11   # 比如ceph-mon1
    -----------------------------------------------------------
    Server listening on 5201
    -----------------------------------------------------------

在测试节点上：

❯ dnf install -y iperf3
    // iperf3 -c <所要连接的节点的IP>
    ❯ iperf3 -c 192.168.7.11

#### 网络分离 ####

Ceph支持将对外服务的网络，和OSD间进行数据同步的网络进行物理网卡上的分离，如图：

![format_png][]

我要测试的两台OSD主机上各有两个万兆网口，分别在`192.168.7.0/24`和`10.168.7.0/24`两个网段上，现在只需要把`cluster network`进行设置即可。

❯ ceph config set global cluster_network 10.168.7.0/24
    ❯ ceph orch daemon restart osd

### 性能测试（HDD池） ###

#### `rados bench`测试 ####

Ceph的`rados`工具提供了性能测试命令，可以实现三种测试：`write`（写）、`rand`（随机读）和`seq`（顺序读）。

❯ rados bench -p bench.hdd 30 write --no-cleanup | tee 2hdd/rados_bench_write.log
    ❯ rados bench -p bench.hdd 30 rand | tee 2hdd/rados_bench_rand.log
    ❯ rados bench -p bench.hdd 30 seq | tee 2hdd/rados_bench_seq.log

测试结果：

<table> 
 <thead> 
  <tr> 
   <th>IO</th> 
   <th>IOPS</th> 
   <th>BW(MB/s)</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>write</td> 
   <td>47</td> 
   <td>190.5</td> 
  </tr> 
  <tr> 
   <td>rand (read)</td> 
   <td>72</td> 
   <td>289.3</td> 
  </tr> 
  <tr> 
   <td>seq (read)</td> 
   <td>65</td> 
   <td>262.5</td> 
  </tr> 
 </tbody> 
</table>

从以上结果可以看出，所有的IO测试都是基于4M大小的bs进行的，恐怕没太多参考价值，后续我们主要用来做横向对比。

#### `fio`测试 ####

> 注意：目前仅添加了2块HDD作为OSD。

使用`fio`工具进行测试，`fio`测试脚本如下：

[global]
    ioengine=libaio      # 异步IO
    direct=1             # 排除OS的IO缓存机制的影响
    size=5g              # 每个fio进程/线程的最大读写
    lockmem=1G           # 锁定所使用的内存大小
    runtime=30           # 根据前面的结论以后采用30值
    group_reporting      # 多个job合并出报告
    directory=/mnt/rbd   # 三次测试分别修改/mnt/rbd、/mnt/cephfs、/mnt/nfs
    numjobs=1
    iodepth=1
    
    [4k_randwrite]
    stonewall
    rw=randwrite
    bs=4k
    
    [4k_randread]
    stonewall
    rw=randread
    bs=4k
    
    [64k_write]
    stonewall
    rw=write
    bs=64k
    
    [64k_read]
    stonewall
    rw=read
    bs=64k

如上，测试的是4k随机写、4k随机读、64k顺序写、64k顺序读的性能。

由于前面没有对Ceph进行过不同参数值的测试，下面针对`iodepth`的不同的值观察测试结果（`numjobs`模拟的是多线程并发，就暂时不测试了，一律用`1`）。

for iodepth in 1 2 4 8 16 32; do 
        sed -i "/^iodepth/c iodepth=${iodepth}" fio.conf && fio fio.conf | tee 2hdd/rbd_i$(printf "%02d" ${iodepth}).log && sleep 20s
    done

这里就不搞两层for嵌套了，手动修改`directory`指定要测试的目录，然后进行三波测试。

最终结果如下：

![format_png 1][]

#### 重置测试环境 ####

上面的测试是2个HDD部署为OSD的情况，下面每次增加2个HDD，然后测试性能的变化情况。

> 为了尽可能排除干扰：
> 
>  *  每次测试一种分布式存储的时候，其他的存储方式都处于umount状态；
>  *  增加OSD的时候，所有的存储方式的挂载目录都`umount`，尤其是RBD的方式，先`unmap`，而不是用在线`xfs_growfs`的方式扩容。
> 
> 当然，也可以直接删除存储池然后重建。

测试节点上：

1.利用`rados bench`测试性能

rados bench -p bench.hdd 30 write --no-cleanup | tee <n>hdd/rados_bench_write.log
    rados bench -p bench.hdd 30 rand | tee <n>hdd/rados_bench_rand.log
    rados bench -p bench.hdd 30 seq | tee <n>hdd/rados_bench_seq.log
    # 清理
    rados rm -p bench.hdd $(rados ls -p bench.hdd)

2.测试RBD性能

rbd create bench.hdd/disk1 --size 100G
    rbd map bench.hdd/disk1
    mkfs.xfs /dev/rbd0
    mount /dev/rbd0 /mnt/rbd
    
    # 用fio测试RBD性能 ...
    
    rm -f /mnt/rbd/*
    umount /mnt/rbd
    rbd unmap bench.hdd/disk1
    rbd rm bench.hdd/disk1

3.测试CephFS性能

mount -t ceph :/ /mnt/cephfs -o name=admin,secret=AQBYSjZfQF+UJBAAC6QJjNACndkw2LcCR2XLFA==
    
    # 用fio测试CephFS性能...
    
    rm -f /mnt/cephfs/*_*
    umount /mnt/cephfs

4.测试NFS性能

mount -t nfs 192.168.7.14:/nfs /mnt/nfs
    
    # 用fio测试NFS性能...
    
    rm -f /mnt/nfs/*
    umount /mnt/nfs

#### `fio`测试结论 ####

1.  横向来看，三种挂载方式的性能相差并不大，总体表现CephFS似乎来略好一点点。
2.  纵向来看，相对于单HDD测试，分布式存储是更能够从`iodepth`的增加中收益的。图中颜色较深的是综合考虑性能和延迟来看相对较优的测试结果。由此，我们后续的测试采用如下`iodepth`值来进行对比：
    
    1.  4k随机读：`iodepth=16`
    2.  4k随机写：`iodepth=8`
    3.  64k顺序读：`iodepth=2`
    4.  64k顺序写：`iodepth=16`

则更新后的测试脚本如下：

[global]
    ioengine=libaio      # 异步IO
    direct=1             # 排除OS的IO缓存机制的影响
    size=5g              # 每个fio进程/线程的最大读写
    lockmem=1G           # 锁定所使用的内存大小
    runtime=30           # 根据前面的结论以后采用30值
    group_reporting      # 多个job合并出报告
    directory=/mnt/rbd   # 三次测试分别修改/mnt/rbd、/mnt/cephfs、/mnt/nfs
    numjobs=1
    
    [4k_randwrite]
    stonewall
    rw=randwrite
    bs=4k
    iodepth=8
    
    [4k_randread]
    stonewall
    rw=randread
    bs=4k
    iodepth=16
    
    [64k_write]
    stonewall
    rw=write
    bs=64k
    iodepth=16
    
    [64k_read]
    stonewall
    rw=read
    bs=64k
    iodepth=2

### 不同OSD个数性能对比 ###

上面的测试是2个HDD部署为OSD的情况，下面每次增加2个HDD，然后测试性能的变化情况。

#### 测试过程 ####

每次增加两个HDD，Ceph集群上：

ceph orch daemon add osd ceph-osd1:/dev/sd<x>
    ceph orch daemon add osd ceph-osd2:/dev/sd<x>

> 添加后，注意用`ceps -s`观察pg状态是否全部`active+clean`。

rados bench的结果：

（第一轮测试结果）

![format_png 2][]

（第二轮测试结果）

![format_png 3][]

fio测试的结果：

（第一轮测试结果）

![format_png 4][]

（第二轮测试结果）

![format_png 5][]

> 为了结论的准确性，这里进行了两轮测试。第二轮是将OSD进行了`out`处理又从新`in`之后测试的结果，可以看出，两轮的测试结果很接近，看来性能还是很稳定的。

#### 测试结论 ####

1.  随着OSD个数的增加，Ceph集群的整体性能是有提升的，尤其是来自`rados bench`的数据更加显著。
2.  `fio`测试的结果可能更接近真实情况：
    
     *  对4k随机读来说，OSD越多，性能越强，而且似乎是线性提升，而且延迟也是与OSD个数成反比。
     *  对4k随机写来说，OSD越多，RBD和CephFS的性能越强，而且似乎是线性提升，只是NFS并没有这样的”待遇“。
     *  对64k顺序读来说，与4k随机写正相反，RBD和CephFS几乎没有提升，而NFS却有性能提升。
     *  对64k顺序写来说，性能与OSD个数没有太大关系。这不大科学，照理说，多个OSD各自同时承担一些写操作的话，性能应该会随OSD个数提升才对。**也许是IO并发数不够（本轮的顺序写的iodepth=16，使得不足以发挥出最高性能。**

### Ceph存储随iodepth的性能变化 ###

#### 测试过程 ####

考虑到OSD的个数增加，应该对高并发的IO操作带来更强的性能，最后，对于8个HDD作为OSD的情况，再次针对`iodepth`进行测试，结果如下：

![format_png 6][]

#### 测试结论 ####

1.  相对于4HDD来说，8HDD话，顺序读写的高并发能力提升了，`iodepth`从32-128仍然能够带来性能的提升。尤其`iodepth=128`时，顺序写达到了600-700MiB/s，延迟也并没有增加多少，这才对嘛。
2.  NFS的性能表现差强人意，队列深度达到一定的值之后，性能反而下降；NFS的整体性能与RBD和CephFS相比也略显不足。
3.  总起来说，Ceph是喜欢高并发IO的。\*\*除了4k随机写，其他的三种IO方式都能够从更高的队列深度中获益。\*\*不过队列深度只是每一个批次中IO的数量，如果直接增加批次个数（numjobs）本身呢？

### 8HDD与HDD单盘性能对比 ###

##### 测试过程 #####

我的测试环境中，RBD、CephFS（NFS基于CephFS）所在的存储池是`size=2`的。所以，8个HDD的磁盘性能**理论上最高**可以达到相当于4个HDD单盘的性能。实际情况如何？下面设置`numjobs=4`测试一下。

最后把单HDD磁盘、`numjobs=1`的结果（上一小节）、`numjobs=4`的结果一起进行对比。

此时，将测试机的虚拟CPU和内存调高4倍。

> 注：非常抱歉，其实前后应该保持同样的测试环境，不过最初确实忘了，只给了1个CPU和4G内存，这次`numjobs=4`会同时启动4个测试进程，所以调大资源。
> 
> 每个fio会锁定1G的测试内存，理论上前面对Ceph的测试是不会把资源跑满的，而且前面的测试主要以纵向对比为主，每次测试的环境是保持一致的，所以不影响前面测试结果和结论的参考价值。

`compaire.conf`：

[global]
    ioengine=libaio      # 异步IO
    direct=1             # 排除OS的IO缓存机制的影响
    size=5g              # 每个fio进程/线程的最大读写
    lockmem=1G           # 锁定所使用的内存大小
    runtime=30           # 根据前面的结论以后采用30值
    group_reporting      # 多个job合并出报告
    directory=/mnt/rbd   # 三次测试分别修改/mnt/rbd、/mnt/cephfs、/mnt/nfs
    numjobs=4
    iodepth=1
    
    [4k_randwrite]
    stonewall
    rw=randwrite
    bs=4k
    
    [4k_randread]
    stonewall
    rw=randread
    bs=4k
    
    [64k_write]
    stonewall
    rw=write
    bs=64k
    
    [64k_read]
    stonewall
    rw=read
    bs=64k

共三次测试，分别针对`/mnt/rbd`、`/mnt/cephfs`、`/mnt/nfs`，分别挂载不同的存储后端到不同的目录，然后测试不同的`iodepth`的性能指标，并最终与HDD单盘性能进行比对。

for iodepth in 1 2 4 8 16 32 64; do sed -i "/^iodepth/c iodepth=${iodepth}" compaire.conf && fio compaire.conf | tee compaire/iodepth$(printf "%02d" ${iodepth}).log && rm -f /mnt/rbd/* && sleep 30s; done

测试结果：

*  性能指标BW(MiB/s)

![format_png 7][]

*  延迟指标clat(usec)

![format_png 8][]

> 注：图中第二列中`(4)`和`(1)`指的是`numjobs`值。单盘HDD最初测试的时候由于除4k随机读外随`iodepth`的增加很快达到性能上限，因此没有对`iodepth=32和64`进行测试。

#### 测试结论 ####

对比HDD单盘、`numjobs=1`和`numjobs=4`的RBD、CephFS、NFS的性能：

*  【总体性能】多数情况下，性能排序为：`numjobs=1`时的Ceph < HDD单盘 < `numjobs=4`时的Ceph，可见分布式存储还是欢迎多任务多队列深度的并发IO操作的，甚至在`iodepth`比较低的时候，`numjobs=4`的性能可达`numjobs=1`的3-4倍，这个比例与本节最初的猜测有些接近。
 *  【并发趋势】除NFS外，性能随着`iodepth`的增加，更确切说是随着`numjobs * iodepth`的增加而提升：
    
     *  写操作比读操作能够更快达到最高性能；
     *  顺序操作比随机操作能够更快达到最高性能；
     *  而NFS的性能大约在`numjobs * iodepth`达到16/32后不升反降，延迟也会相对更高。
 *  【最高性能】对于读操作，Ceph最高性能大约与单盘HDD相当；对于写操作，Ceph最高性能大约是单盘HDD的3-4倍，这个比例同样与本节最初的猜测接近，相信原因大家都可以猜到。
 *  【延迟对比】HDD单盘 < `numjobs=1`时的Ceph < `numjobs=4`时的Ceph，无需解释。

看来，如果Ceph中有更多的存储池，或存储池中有更多的RBD，那么是有希望进一步挖掘\*\*“磁盘利用率尚有空间的”\*\*性能的。

### Cache Tier性能 ###

#### 测试过程 ####

准备两个存储池，分别是`ssd`和`hdd`，分别位于SSD和HDD上。然后让`ssd`做`hdd`的缓存层。

![format_png 9][]

# 创建两个存储池
    ceph osd pool create ssd on-ssd
    ceph osd pool create hdd on-hdd
    
    # 把SSD挂接到HDD上
    ceph osd tier add hdd ssd
    # 配置写回模式
    ceph osd tier cache-mode ssd writeback
    # 将客户端流量指向到缓存存储池
    ceph osd tier set-overlay hdd ssd
    # 调整配置
    # 设置缓存层hit_set_type使用bloom过滤器
    ceph osd pool set ssd hit_set_type bloom
    # 设置热度数hit_set_count和热度周期hit_set_period，以及最大缓冲数据target_max_bytes
    # hit_set_count 和 hit_set_period 选项分别定义了 HitSet 覆盖的时间区间、以及保留多少个这样的 HitSet，保留一段时间以来的访问记录，这样 Ceph 就能判断一客户端在一段时间内访问了某对象一次、还是多次（存活期与热度）
    ceph osd pool set ssd hit_set_count 1
    ceph osd pool set ssd hit_set_period 3600
    ceph osd pool set ssd target_max_bytes 1000000000000
    ceph osd pool set ssd min_read_recency_for_promote 1
    ceph osd pool set ssd min_write_recency_for_promote 1
    # 当缓冲池里被修改的数据达到40%时，则触发刷写动作。
    ceph osd pool set ssd cache_target_dirty_ratio 0.4
    # 当缓冲池里被修改数据达到60%时候，则高速刷写。
    ceph osd pool set ssd cache_target_dirty_high_ratio 0.6
    # 当缓冲池里的容量使用达到80%时候，则触发驱逐操作。
    ceph osd pool set ssd cache_target_full_ratio 0.8
    # 若被修改的对象在缓冲池里超过最短周期（单位分钟），将会被刷写到慢存储池
    ceph osd pool set ssd cache_min_flush_age 600

测试节点上：

1.利用`rados bench`测试性能

rados bench -p hdd 30 write --no-cleanup | tee cache_tier/rados_bench_write.log
    rados bench -p hdd 30 rand | tee cache_tier/rados_bench_rand.log
    rados bench -p hdd 30 seq | tee cache_tier/rados_bench_seq.log
    # 清理
    rados rm -p hdd $(rados ls -p hdd)

2.测试RBD性能

rbd create hdd/disk1 --size 100G
    rbd map hdd/disk1
    mkfs.xfs /dev/rbd0
    mount /dev/rbd0 /mnt/rbd
    
    # 用fio测试RBD性能 ...
    
    rm -f /mnt/rbd/*
    umount /mnt/rbd
    rbd unmap hdd/disk1
    rbd rm hdd/disk1

CephFS和NFS不受影响，不做测试。

rados bench的结果：

![format_png 10][]

fio的结果，加在之前的图上进行对比：

![format_png 11][]

> 2、4、6、8是上一小节的测试结果，也就是没有开启Cache tier的数据，最后一个是开启了cache tier的8个HDD的数据。

#### 测试结论 ####

结合上面的两个图，直接把官方的文档搬过来：

> Cacher tiering会导致多数情况下的性能下降，因此应谨慎使用：
> 
>  *  性能与workload强相关：由于IO过程中涉及将对象从缓存层拷入拷出，所以性能通常会有下降；如果workload的类型是”大多数的请求命中的是对象中的一小部分“，这种情况下，由于高命中率，相对会有明显的性能提升。
>  *  难以进行性能测试：类似上面的fio测试，其实是不满足上一条中的workload类型的，还没等缓存层”warm up“（性能会下降）起来，测试就结束了。
>  *  librados object enumeration：对于librados层的枚举API，缓存层的表现不如预期。
>  *  复杂性：这一特性的复杂性（上面的一系列参数的配置可见一斑）会带来潜在的风险。

**总之，除非有确定的理由（比如总是通过RGW读取最近存入的数据），否则不建议开启Cache Tiering。**

#### 删除Cache Tiering ####

# 将cache模式切换回readproxy
    ceph osd tier cache-mode ssd readproxy
    # 确保缓存池中的对象已经全部落到慢存储的池子里
    rados -p ssd ls
    rados -p ssd cache-flush-evict-all
    # 移除慢存储池的overlay
    ceph osd tier remove-overlay hdd
    # 取消cache tier
    ceph osd tier remove hdd ssd

[fio_HDD_SSD]: https://blog.csdn.net/get_set/article/details/108001674
[CentOS8_cephadm_Ceph Octopus]: https://blog.csdn.net/get_set/article/details/108092248
[format_png]: /images/20221124/e635992b2cc147f3896bbe818871e8d3.png
[format_png 1]: /images/20221124/271058e9b9e7417ba849ec0feee01094.png
[format_png 2]: /images/20221124/ce9cf8d2e6de4880af975e79c513e3cd.png
[format_png 3]: /images/20221124/91311196d95b4c0b9f31a53998df775c.png
[format_png 4]: /images/20221124/85f6a26f889649afb9ebccc2d5405b7c.png
[format_png 5]: /images/20221124/e49cd36fc3e14aebb887c5becfc91a94.png
[format_png 6]: /images/20221124/9ca4b69172ea4c71ae7a48682193c5ac.png
[format_png 7]: /images/20221124/578e91597900408a887c9bb4461a0e2b.png
[format_png 8]: /images/20221124/51499e4061d4479592a77bb4c33bc6c6.png
[format_png 9]: /images/20221124/c2c4e39e28f446c0824e60bc30dc0d99.png
[format_png 10]: /images/20221124/60bcd9fb83a64cd19310b9598bd933a9.png
[format_png 11]: /images/20221124/d716242eb2eb4cd3990ab4935dfd9ca0.png