【Kubernetes】Kubernetes的PV和PVC的用法

水深无声 2024-03-23 21:36 76阅读 0赞

#### PV、PVC ####

*  前言
 *  一、 存储卷
 *   *  1. emptyDir 存储卷
     *   *  1.1 概念
         *  1.2 实例
     *  2. hostPath 存储卷
     *   *  2.1 概念
         *  2.2 实例
     *  3. nfs共享存储卷
 *  二、PV 和 PVC
 *   *  1. 概念
     *   *  1.1 PV
         *  1.2 PVC
         *  1.3 PVC 的使用逻辑
         *  1.4 创建机制
         *  1.5 PV 和 PVC 的生命力周期
         *  1.6 创建及销毁 PV 的流程
     *  2. PV 和 PVC 的创建
     *   *  2.1 查看定义
         *  2.2 NFS 创建静态PV
         *   *  1) 配置nfs存储
             *  2) 定义 PV
             *  3) 定义 PVC
             *  4) 测试访问
         *  2.3 搭建 StorageClass + nfs-client-provisioner ，实现 NFS 的动态 PV 创建
         *   *  1) 配置nfs服务
             *  2) 创建 Service Account
             *  3) 使用 Deployment 来创建 NFS Provisioner
             *  4) 创建 StorageClass
             *  5) 创建 PVC 和 Pod 测试
 *  总结
 *   *  1. 常使用的日志分析工具有些哪些以及它们如何与K8S集群进行通信
     *  2. K8S 的存储卷
     *  3. PV 和 PVC
     *  4. 创建 PV 的方式（PV类型）
     *  5. PV 的四种状态
     *  6. 创建 PV 资源

--------------------

## 前言 ##

容器磁盘上的文件的生命周期是短暂的，这就使得在容器中运行重要应用时会出现一些问题。首先，当容器崩溃时，kubelet 会重启它，但是容器中的文件将丢失——容器以干净的状态（镜像最初的状态）重新启动。其次，在Pod中同时运行多个容器时，这些容器之间通常需要共享文件。Kubernetes 中的Volume抽象就很好的解决了这些问题。Pod中的容器通过Pause容器共享Volume。

--------------------

## 一、 存储卷 ##

### 1. emptyDir 存储卷 ###

#### 1.1 概念 ####

当Pod被分配给节点时，首先创建emptyDir卷，并且只要该Pod在该节点上运行，该卷就会存在。正如卷的名字所述，它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件，尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时，emptyDir中的数据将被永久删除。

#### 1.2 实例 ####

mkdir /opt/volumes
    cd /opt/volumes
    
    vim pod-emptydir.yaml 
    apiVersion: v1
    kind: Pod
    metadata:
      name: pod-emptydir
      namespace: default
      labels:
        app: myapp
        tier: frontend
    spec:
      containers:
      - name: myapp
        image: ikubernetes/myapp:v1
        imagePullPolicy: IfNotPresent
        ports:
        - name: http
          containerPort: 80
    	#定义容器挂载内容
        volumeMounts:
    	#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
        - name: html
    	  #挂载至容器中哪个目录
          mountPath: /usr/share/nginx/html/
      - name: busybox
        image: busybox:latest
        imagePullPolicy: IfNotPresent
        volumeMounts:
        - name: html
    	  #在容器内定义挂载存储名称和挂载路径
          mountPath: /data/
        command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']
      #定义存储卷
      volumes:
      #定义存储卷名称  
      - name: html
        #定义存储卷类型
        emptyDir: {}
    
    kubectl apply -f pod-emptydir.yaml

![在这里插入图片描述][e84c9dbf6c634c8081e9224b6db71665.png_pic_center]

kubectl get pods -o wide
    NAME           READY   STATUS    RESTARTS   AGE   IP           NODE     NOMINATED NODE   READINESS GATES
    pod-emptydir   2/2     Running   0          49s   10.244.1.9   node01   <none>           <none>
    
    #在上面定义了2个容器，其中一个容器是输入日期到index.html中，然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。
    curl 10.244.1.9
    Fri Aug 11 07:19:57 UTC 2023
    Fri Aug 11 07:19:59 UTC 2023
    Fri Aug 11 07:20:01 UTC 2023
    Fri Aug 11 07:20:03 UTC 2023
    Fri Aug 11 07:20:05 UTC 2023
    Fri Aug 11 07:20:07 UTC 2023
    Fri Aug 11 07:20:09 UTC 2023
    Fri Aug 11 07:20:11 UTC 2023
    Fri Aug 11 07:20:13 UTC 2023
    Fri Aug 11 07:20:15 UTC 2023
    Fri Aug 11 07:20:17 UTC 2023
    Fri Aug 11 07:20:19 UTC 2023
    Fri Aug 11 07:20:21 UTC 2023
    Fri Aug 11 07:20:23 UTC 2023
    Fri Aug 11 07:20:25 UTC 2023
    Fri Aug 11 07:20:27 UTC 2023
    Fri Aug 11 07:20:29 UTC 2023
    Fri Aug 11 07:20:31 UTC 2023
    Fri Aug 11 07:20:33 UTC 2023
    Fri Aug 11 07:20:35 UTC 2023
    Fri Aug 11 07:20:37 UTC 2023
    Fri Aug 11 07:20:39 UTC 2023
    Fri Aug 11 07:20:41 UTC 2023
    Fri Aug 11 07:20:43 UTC 2023
    Fri Aug 11 07:20:45 UTC 2023
    Fri Aug 11 07:20:47 UTC 2023

![在这里插入图片描述][980899bdf3144279b0a2082a42e5571d.png_pic_center]

### 2. hostPath 存储卷 ###

#### 2.1 概念 ####

hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。

hostPath可以实现持久存储，但是在node节点故障时，也会导致数据的丢失。

#### 2.2 实例 ####

#在 node01 节点上创建挂载目录
    mkdir -p /data/pod/volume1
    echo 'node01.abc.com' > /data/pod/volume1/index.html

![在这里插入图片描述][628acb9c6912494593f8e84150b322ce.png_pic_center]

#创建 Pod 资源
    vim pod-hostpath.yaml
    apiVersion: v1
    kind: Pod
    metadata:
      name: pod-hostpath
      namespace: default
    spec:
      containers:
      - name: myapp
        image: nginx
    	#定义容器挂载内容
        volumeMounts:
    	#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
        - name: html
    	  #挂载至容器中哪个目录
          mountPath: /usr/share/nginx/html
    	  #读写挂载方式，默认为读写模式false
    	  readOnly: false
      #volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷
      volumes:
        #存储卷名称
        - name: html
    	  #路径，为宿主机存储路径
          hostPath:
    	    #在宿主机上目录的路径
            path: /data/pod/volume1
    		#定义类型，这表示如果宿主机没有此目录则会自动创建
            type: DirectoryOrCreate

![在这里插入图片描述][4d5bb65de14a414bbea6690113dd70a7.png_pic_center]

kubectl apply -f pod-hostpath.yaml
    
    #访问测试
    kubectl get pods -o wide
    NAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
    pod-hostpath   1/1     Running   0          25s   10.244.1.12   node01   <none>           <none>
    
    curl 10.244.1.12
    node01.abc.com
    
    #删除pod，再重建，验证是否依旧可以访问原来的内容
    kubectl delete -f pod-hostpath.yaml  
    kubectl apply -f pod-hostpath.yaml 
    
    kubectl get pods -o wide
    NAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
    pod-hostpath   1/1     Running   0          31s   10.244.1.13   node01   <none>           <none>
    
    curl 10.244.1.13 
    node01.abc.com

![\]][8bff9d06633144dfae0ede8f14d104bd.png_pic_center]

### 3. nfs共享存储卷 ###

#在stor01节点上环境配置
    hostnamectl set-hostname stor01
    systemctl stop firewalld
    setenforce 0
    rpm -q rpcbind
    rpm -q nfs-utils

![在这里插入图片描述][76fc14d3f5654fce8f21f0e3a4b149a3.png_pic_center]

#在stor01节点上安装nfs，并配置nfs服务
    mkdir /data/volumes -p
    chmod 777 /data/volumes
    
    vim /etc/exports
    /data/volumes 192.168.145.0/24(rw,no_root_squash)
    
    systemctl start rpcbind
    systemctl start nfs
    
    showmount -e
    Export list for stor01:
    /data/volumes 192.168.145.0/24

![在这里插入图片描述][2cc4ee9e6677449587d319f83fe8a011.png_pic_center]

#master节点操作
    vim pod-nfs-vol.yaml
    apiVersion: v1
    kind: Pod
    metadata:
      name: pod-vol-nfs
      namespace: default
    spec:
      containers:
      - name: myapp
        image: ikubernetes/myapp:v1
        volumeMounts:
        - name: html
          mountPath: /usr/share/nginx/html
      volumes:
        - name: html
          nfs:
            path: /data/volumes
            server: stor01
    
    
    kubectl apply -f pod-nfs-vol.yaml
    
    kubectl get pods -o wide
    NAME          READY   STATUS    RESTARTS   AGE    IP            NODE     NOMINATED NODE   READINESS GATES
    pod-vol-nfs   1/1     Running   0          113s   10.244.1.14   node01   <none>           <none>

![在这里插入图片描述][220d041ce95a4f5c821285536b3e94b2.png_pic_center]

#在nfs服务器上创建index.html
    cd /data/volumes
    vim index.html
    <h1> nfs stor01</h1>

![在这里插入图片描述][8bdd73dc8ff242e380caacf7e2688aea.png_pic_center]

#master节点操作
    curl 10.244.1.14
    <h1> nfs stor01</h1>
    
    kubectl delete -f pod-nfs-vol.yaml   #删除nfs相关pod，再重新创建，可以得到数据的持久化存储
    
    kubectl apply -f pod-nfs-vol.yaml

![在这里插入图片描述][e051fe6b51da4fba91217e7b64eabba0.png_pic_center]

## 二、PV 和 PVC ##

### 1. 概念 ###

#### 1.1 PV ####

PV 全称叫做 Persistent Volume，持久化存储卷。它是用来描述或者说用来定义一个存储卷的，这个通常都是由运维工程师来定义。

#### 1.2 PVC ####

PVC 的全称是 Persistent Volume Claim，是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。

#### 1.3 PVC 的使用逻辑 ####

在 Pod 中定义一个存储卷（该存储卷类型为 PVC），定义的时候直接指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据配置的定义去 PV 申请，而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。

#### 1.4 创建机制 ####

PV和PVC模式是需要运维人员先创建好PV，然后开发人员定义好PVC进行一对一的Bond，但是如果PVC请求成千上万，那么就需要创建成千上万的PV，对于运维人员来说维护成本很高，Kubernetes提供一种自动创建PV的机制，叫StorageClass，它的作用就是创建PV的模板。

创建 StorageClass 需要定义 PV 的属性，比如存储类型、大小等；另外创建这种 PV 需要用到的存储插件，比如 Ceph 等。 有了这两部分信息，Kubernetes 就能够根据用户提交的 PVC，找到对应的 StorageClass，然后 Kubernetes 就会调用 StorageClass 声明的存储插件，自动创建需要的 PV 并进行绑定。

总结：PV是集群中的资源。 PVC是对这些资源的请求，也是对资源的索引检查。

#### 1.5 PV 和 PVC 的生命力周期 ####

PV和PVC之间的相互作用遵循这个生命周期：

> Provisioning（配置）—> Binding（绑定）—> Using（使用）—> Releasing（释放） —> Recycling（回收）

Provisioning，即 PV 的创建，可以直接创建 PV（静态方式），也可以使用 StorageClass 动态创建
    Binding，将 PV 分配给 PVC
    Using，Pod 通过 PVC 使用该 Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的 PVC
    Releasing，Pod 释放 Volume 并删除 PVC
    Reclaiming，回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除

根据这 5 个阶段，PV 的状态有以下 4 种：

Available（可用）：表示可用状态，还未被任何 PVC 绑定
    Bound（已绑定）：表示 PV 已经绑定到 PVC
    Released（已释放）：表示 PVC 被删掉，但是资源尚未被集群回收
    Failed（失败）：表示该 PV 的自动回收失败

#### 1.6 创建及销毁 PV 的流程 ####

一个PV从创建到销毁的具体流程如下：

*  一个PV创建完后状态会变成Available，等待被PVC绑定。
 *  一旦被PVC邦定，PV的状态会变成Bound，就可以被定义了相应PVC的Pod使用。
 *  Pod使用完后会释放PV，PV的状态变成Released。
 *  变成Released的PV会根据定义的回收策略做相应的回收工作。

<table> 
 <thead> 
  <tr> 
   <th>回收策略</th> 
   <th>作用</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>Retain</td> 
   <td>Retain就是保留现场，K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。</td> 
  </tr> 
  <tr> 
   <td>Delete</td> 
   <td>Delete策略，K8S会自动删除该PV及里面的数据。</td> 
  </tr> 
  <tr> 
   <td>Recycle</td> 
   <td>Recycle方式，K8S会将PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。</td> 
  </tr> 
 </tbody> 
</table>

### 2. PV 和 PVC 的创建 ###

#### 2.1 查看定义 ####

kubectl explain pv.spec    #查看pv定义的规格
    FIELDS:
    	apiVersion: v1
    	kind: PersistentVolume
    	metadata:    #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespace
    	  name: 
    	spec

![在这里插入图片描述][1dc9bcc02206416a9691f51bf018227c.png_pic_center]

kubectl explain pv.spec    #查看pv定义的规格
    spec:
      nfs:（定义存储类型）
        path:（定义挂载卷路径）
        server:（定义服务器名称）
      accessModes:（定义访问模型，有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式）
        - ReadWriteOnce          #（RWO）卷可以被一个节点以读写方式挂载。 ReadWriteOnce 访问模式也允许运行在同一节点上的多个 Pod 访问卷。
    	- ReadOnlyMany           #（ROX）卷可以被多个节点以只读方式挂载。
    	- ReadWriteMany          #（RWX）卷可以被多个节点以读写方式挂载。
    #nfs 支持全部三种；iSCSI 不支持 ReadWriteMany（iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术）；HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。
      capacity:（定义存储能力，一般用于设置存储空间）
        storage: 2Gi （指定大小）
      storageClassName: （自定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）
      persistentVolumeReclaimPolicy: Retain    #回收策略（Retain/Delete/Recycle） 
    ---------------------------------------------------------------------------------------------------------------------------
    #Retain（保留）：当用户删除与之绑定的PVC时候，这个PV被标记为released（PVC与PV解绑但还没有执行回收策略）且之前的数据依然保存在该PV上，但是该PV不可用，需要手动来处理这些数据并删除该PV。
    #Delete（删除）：删除与PV相连的后端存储资源。对于动态配置的PV来说，默认回收策略为Delete。表示当用户删除对应的PVC时，动态配置的volume将被自动删除。（只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持）
    #Recycle（回收）：如果用户删除PVC，则删除卷上的数据，卷不会删除。（只有 NFS 和 HostPath 支持）

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-tvOYIL3i-1692012639956)(C:/Users/86138/AppData/Roaming/Typora/typora-user-images/image-20230814143406216.png)\]][img-tvOYIL3i-1692012639956_C_Users_86138_AppData_Roaming_Typora_typora-user-images_image-20230814143406216.png]

kubectl explain pvc   #查看PVC的定义方式
    KIND:     PersistentVolumeClaim
    VERSION:  v1
    FIELDS:
       apiVersion	<string>
       kind	<string>  
       metadata	<Object>
       spec	<Object>

![在这里插入图片描述][f2ddcfb673d5419e828ea6e1b9de41d4.png_pic_center]

#PV和PVC中的spec关键字段要匹配，比如存储（storage）大小、访问模式（accessModes）、存储类名称（storageClassName）
    kubectl explain pvc.spec
    spec:
      accessModes: （定义访问模式，必须是PV的访问模式的子集）
      resources:
        requests:
          storage: （定义申请资源的大小）
      storageClassName: （定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）

![在这里插入图片描述][355c85046e5b47bcbbc0d3e5e2133ea9.png_pic_center]

#### 2.2 NFS 创建静态PV ####

##### 1) 配置nfs存储 #####

mkdir v{
       1,2,3,4,5}
    
    vim /etc/exports
    /data/volumes/v1 192.168.145.0/24(rw,no_root_squash)
    /data/volumes/v2 192.168.145.0/24(rw,no_root_squash)
    /data/volumes/v3 192.168.145.0/24(rw,no_root_squash)
    /data/volumes/v4 192.168.145.0/24(rw,no_root_squash)
    /data/volumes/v5 192.168.145.0/24(rw,no_root_squash)
    
    exportfs -arv	#发出共享信息
    
    showmount -e

![在这里插入图片描述][70b8a9d8105047faac626c451bf36f73.png_pic_center]

##### 2) 定义 PV #####

#这里定义5个PV，并且定义挂载的路径以及访问模式，还有PV划分的大小。
    vim pv-demo.yaml
    apiVersion: v1
    kind: PersistentVolume
    metadata:
      name: pv001
      labels:
        name: pv001
    spec:
      nfs:
        path: /data/volumes/v1
        server: stor01
      accessModes: ["ReadWriteMany","ReadWriteOnce"]
      capacity:
        storage: 1Gi
    ---
    apiVersion: v1
    kind: PersistentVolume
    metadata:
      name: pv002
      labels:
        name: pv002
    spec:
      nfs:
        path: /data/volumes/v2
        server: stor01
      accessModes: ["ReadWriteOnce"]
      capacity:
        storage: 2Gi
    ---
    apiVersion: v1
    kind: PersistentVolume
    metadata:
      name: pv003
      labels:
        name: pv003
    spec:
      nfs:
        path: /data/volumes/v3
        server: stor01
      accessModes: ["ReadWriteMany","ReadWriteOnce"]
      capacity:
        storage: 2Gi
    ---
    apiVersion: v1
    kind: PersistentVolume
    metadata:
      name: pv004
      labels:
        name: pv004
    spec:
      nfs:
        path: /data/volumes/v4
        server: stor01
      accessModes: ["ReadWriteMany","ReadWriteOnce"]
      capacity:
        storage: 4Gi
    ---
    apiVersion: v1
    kind: PersistentVolume
    metadata:
      name: pv005
      labels:
        name: pv005
    spec:
      nfs:
        path: /data/volumes/v5
        server: stor01
      accessModes: ["ReadWriteMany","ReadWriteOnce"]
      capacity:
        storage: 5Gi

![在这里插入图片描述][2ddd99a3a0224e478366093bbe592280.png_pic_center]

kubectl apply -f pv-demo.yaml
    
    kubectl get pv
    NAME    CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM   STORAGECLASS   REASON   AGE
    pv001   1Gi        RWO,RWX        Retain           Available                                   26s
    pv002   2Gi        RWO            Retain           Available                                   26s
    pv003   2Gi        RWO,RWX        Retain           Available                                   26s
    pv004   4Gi        RWO,RWX        Retain           Available                                   25s
    pv005   5Gi        RWO,RWX        Retain           Available                                   25s

![在这里插入图片描述][4d4e56defae74440bc60b75061cf1b5c.png_pic_center]

##### 3) 定义 PVC #####

这里定义了pvc的访问模式为多路读写，该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi，此时PVC会自动去匹配多路读写且大小为2Gi的PV，匹配成功获取PVC的状态即为Bound

vim pod-vol-pvc.yaml
    apiVersion: v1
    kind: PersistentVolumeClaim
    metadata:
      name: mypvc
      namespace: default
    spec:
      accessModes: ["ReadWriteMany"]
      resources:
        requests:
          storage: 2Gi
    ---
    apiVersion: v1
    kind: Pod
    metadata:
      name: pod-vol-pvc
      namespace: default
    spec:
      containers:
      - name: myapp
        image: nginx
        volumeMounts:
        - name: html
          mountPath: /usr/share/nginx/html
      volumes:
        - name: html
          persistentVolumeClaim:
            claimName: mypvc

![在这里插入图片描述][4e5218a0cf2045c58270587e657cd585.png_pic_center]

kubectl apply -f pod-vol-pvc.yaml
    
    kubectl get pv
    NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON    AGE
    pv001     1Gi        RWO,RWX        Retain           Available                                            19m
    pv002     2Gi        RWO            Retain           Available                                            19m
    pv003     2Gi        RWO,RWX        Retain           Bound       default/mypvc                            19m
    pv004     4Gi        RWO,RWX        Retain           Available                                            19m
    pv005     5Gi        RWO,RWX        Retain           Available                                            19m
    
    kubectl get pvc
    NAME      STATUS    VOLUME    CAPACITY   ACCESS MODES   STORAGECLASS   AGE
    mypvc     Bound     pv003     2Gi        RWO,RWX                       22s

![在这里插入图片描述][6ab8f548a2be499789468415ca496352.png_pic_center]

##### 4) 测试访问 #####

#在存储服务器上创建index.html，并写入数据，通过访问Pod进行查看，可以获取到相应的页面。
    cd /data/volumes/v3/
    echo "welcome to use pv3" > index.html
    
    kubectl get pods -o wide
    NAME          READY   STATUS    RESTARTS   AGE   IP           NODE     NOMINATED NODE   READINESS GATES
    pod-vol-nfs   1/1     Running   0          46m   10.244.1.2   node01   <none>           <none>
    pod-vol-pvc   1/1     Running   0          18m   10.244.2.2   node02   <none>           <none>
    
    curl  10.244.2.2
    welcome to use pv3

![在这里插入图片描述][2b0537f45a1a47319f0b33376971b160.png_pic_center]

![在这里插入图片描述][345714f3bc884f278ec74b9976e39432.png_pic_center]

#### 2.3 搭建 StorageClass + nfs-client-provisioner ，实现 NFS 的动态 PV 创建 ####

Kubernetes 本身支持的动态 PV 创建不包括 NFS，所以需要使用外部存储卷插件分配PV。详见：[https://kubernetes.io/zh/docs/concepts/storage/storage-classes/][https_kubernetes.io_zh_docs_concepts_storage_storage-classes]

卷插件称为 Provisioner（存储分配器），NFS 使用的是 nfs-client，这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。  
Provisioner：用于指定 Volume 插件的类型，包括内置插件（如 kubernetes.io/aws-ebs）和外部插件（如 external-storage 提供的 ceph.com/cephfs）。

##### 1) 配置nfs服务 #####

#在stor01节点上安装nfs
    mkdir /opt/k8s
    chmod 777 /opt/k8s/
    
    vim /etc/exports
    /opt/k8s 192.168.145.0/24(rw,no_root_squash,sync)
    
    systemctl restart nfs

![在这里插入图片描述][3162cf0e315a4c7b8b3c859514f4fab2.png_pic_center]

##### 2) 创建 Service Account #####

创建 Service Account，用来管理 NFS Provisioner 在 k8s 集群中运行的权限，设置 nfs-client 对 PV，PVC，StorageClass 等的规则

vim nfs-client-rbac.yaml
    #创建 Service Account 账户，用来管理 NFS Provisioner 在 k8s 集群中运行的权限
    apiVersion: v1
    kind: ServiceAccount
    metadata:
      name: nfs-client-provisioner
    ---
    #创建集群角色
    apiVersion: rbac.authorization.k8s.io/v1
    kind: ClusterRole
    metadata:
      name: nfs-client-provisioner-clusterrole
    rules:
      - apiGroups: [""]
        resources: ["persistentvolumes"]
        verbs: ["get", "list", "watch", "create", "delete"]
      - apiGroups: [""]
        resources: ["persistentvolumeclaims"]
        verbs: ["get", "list", "watch", "update"]
      - apiGroups: ["storage.k8s.io"]
        resources: ["storageclasses"]
        verbs: ["get", "list", "watch"]
      - apiGroups: [""]
        resources: ["events"]
        verbs: ["list", "watch", "create", "update", "patch"]
      - apiGroups: [""]
        resources: ["endpoints"]
        verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
    ---
    #集群角色绑定
    apiVersion: rbac.authorization.k8s.io/v1
    kind: ClusterRoleBinding
    metadata:
      name: nfs-client-provisioner-clusterrolebinding
    subjects:
    - kind: ServiceAccount
      name: nfs-client-provisioner
      namespace: default
    roleRef:
      kind: ClusterRole
      name: nfs-client-provisioner-clusterrole
      apiGroup: rbac.authorization.k8s.io

![在这里插入图片描述][cec8e51e0fa34c3baa69ffce15da0d98.png_pic_center]

kubectl apply -f nfs-client-rbac.yaml
    
    kubectl get sa			#查看创建的角色

![在这里插入图片描述][eb5f814e88ac491ca21644a6b6667b23.png_pic_center]

##### 3) 使用 Deployment 来创建 NFS Provisioner #####

NFS Provisioner(即 nfs-client)，有两个功能：一个是在 NFS 共享目录下创建挂载点(volume)，另一个则是将 PV 与 NFS 的挂载点建立关联。

#由于 1.20 版本启用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错，解决方法如下：
    vim /etc/kubernetes/manifests/kube-apiserver.yaml
    spec:
      containers:
      - command:
        - kube-apiserver
        - --feature-gates=RemoveSelfLink=false       #添加这一行
        - --advertise-address=192.168.80.20
    ......
    
    kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
    kubectl delete pods kube-apiserver -n kube-system 
    kubectl get pods -n kube-system | grep apiserver

![在这里插入图片描述][4dba09d0cb9c42448833eea28dded23a.png_pic_center]

#创建 NFS Provisioner
    vim nfs-client-provisioner.yaml
    kind: Deployment
    apiVersion: apps/v1
    metadata:
      name: nfs-client-provisioner
    spec:
      replicas: 1
      selector:
        matchLabels:
          app: nfs-client-provisioner
      strategy:
        type: Recreate
      template:
        metadata:
          labels:
            app: nfs-client-provisioner
        spec:
          serviceAccountName: nfs-client-provisioner   	  #指定Service Account账户
          containers:
            - name: nfs-client-provisioner
              image: quay.io/external_storage/nfs-client-provisioner:latest
              imagePullPolicy: IfNotPresent
              volumeMounts:
                - name: nfs-client-root
                  mountPath: /persistentvolumes
              env:
                - name: PROVISIONER_NAME
                  value: nfs-storage       #配置provisioner的Name，确保该名称与StorageClass资源中的provisioner名称保持一致
                - name: NFS_SERVER
                  value: stor01           #配置绑定的nfs服务器
                - name: NFS_PATH
                  value: /opt/k8s          #配置绑定的nfs服务器目录
          volumes:              #申明nfs数据卷
            - name: nfs-client-root
              nfs:
                server: stor01
                path: /opt/k8s

![在这里插入图片描述][42e4f78a0423428bbeeaa6f57466f10e.png_pic_center]

kubectl apply -f nfs-client-provisioner.yaml 
    
    kubectl get pod
    NAME                                   READY   STATUS    RESTARTS   AGE
    nfs-client-provisioner-cd6ff67-sp8qd   1/1     Running   0          14s

![在这里插入图片描述][ca0dfb01b6f74a5d8503d388acf03365.png_pic_center]

##### 4) 创建 StorageClass #####

创建 StorageClass，负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联

vim nfs-client-storageclass.yaml
    apiVersion: storage.k8s.io/v1
    kind: StorageClass
    metadata:
      name: nfs-client-storageclass
    provisioner: nfs-storage     #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
    parameters:
      archiveOnDelete: "false"   #false表示在删除PVC时不会对数据目录进行打包存档，即删除数据；为ture时就会自动对数据目录进行打包存档，存档文件以archived开头

![在这里插入图片描述][6cd0c59a7bde436586972460501a9843.png_pic_center]

kubectl apply -f nfs-client-storageclass.yaml
    
    kubectl get storageclass
    NAME                      PROVISIONER   RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
    nfs-client-storageclass   nfs-storage   Delete          Immediate           false                  18s

![在这里插入图片描述][3c93386640da48ba9a9cd370d15e9d24.png_pic_center]

##### 5) 创建 PVC 和 Pod 测试 #####

vim test-pvc-pod.yaml
    apiVersion: v1
    kind: PersistentVolumeClaim
    metadata:
      name: test-nfs-pvc
      #annotations: volume.beta.kubernetes.io/storage-class: "nfs-client-storageclass"     #另一种SC配置方式
    spec:
      accessModes:
        - ReadWriteMany
      storageClassName: nfs-client-storageclass    #关联StorageClass对象
      resources:
        requests:
          storage: 1Gi
    ---
    apiVersion: v1
    kind: Pod
    metadata:
      name: test-storageclass-pod
    spec:
      containers:
      - name: busybox
        image: busybox:latest
        imagePullPolicy: IfNotPresent
        command:
        - "/bin/sh"
        - "-c"
        args:
        - "sleep 3600"
        volumeMounts:
        - name: nfs-pvc
          mountPath: /mnt
      restartPolicy: Never
      volumes:
      - name: nfs-pvc
        persistentVolumeClaim:
          claimName: test-nfs-pvc      #与PVC名称保持一致

![在这里插入图片描述][9678a00c88f2454c8e0d9cbe0143bd29.png_pic_center]

kubectl apply -f test-pvc-pod.yaml

![在这里插入图片描述][90cea09cf1fc4200aff6330f28e48f3c.png_pic_center]

#PVC 通过 StorageClass 自动申请到空间
    kubectl get pvc
    NAME           STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS              AGE
    test-nfs-pvc   Bound    pvc-ea0d73d0-42fd-455d-ab30-778ecd1aa342   1Gi        RWX            nfs-client-storageclass   105s

![在这里插入图片描述][53113d3469e44763aba6e788d514ff87.png_pic_center]

#查看 NFS 服务器上是否生成对应的目录，自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上
    ls /opt/k8s/
    default-test-nfs-pvc-pvc-ea0d73d0-42fd-455d-ab30-778ecd1aa342

![在这里插入图片描述][097cb9a1dede4c7eb8f12acc85ed0b88.png_pic_center]

#进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件
    kubectl exec -it test-storageclass-pod sh
    / # cd /mnt/
    /mnt # echo 'this is test file' > test.txt

![在这里插入图片描述][46d6482aa0e44808ac5d560ee462a759.png_pic_center]

#发现 NFS 服务器上存在，说明验证成功
    cat /opt/k8s/default-test-nfs-pvc-pvc-ea0d73d0-42fd-455d-ab30-778ecd1aa34/test.txt

![在这里插入图片描述][6126637753954f0eb2b986abc5b1d175.png]

## 总结 ##

### 1. 常使用的日志分析工具有些哪些以及它们如何与K8S集群进行通信 ###

日志分析工具：EFK
    daemonset 控制器在K88s每个Node上部署filebeat或logstash的Pod，采用hostpath类型存储卷共享宿主机上的日志目录，供filebeat或logstas采集日志数据
    在Pod添加采集filebeat或logstash边车容器，并采用emptydir类型的存储卷共享应用容器的日志目录

### 2. K8S 的存储卷 ###

emptyDir	可实现Pod中的容器之间共享目录数据，但emptyDir存储卷没有持久化数据的能力，存储卷会随着Pod生命周期结束而一起删除。
    hostPath	将Node节点上的目录/文件挂载到Pod容器指定目录中，有持久化数据的能力，但只能在单个node节点上持久化数据，不能实现跨Node节点的Pod共享数据。
    nfs			使用NFS服务将存储卷挂载到Pod容器的指定目录中，有持久化数据的能力，且也能实现跨Node节点的Pod共享数据。

### 3. PV 和 PVC ###

PV：K8S在指定存储设备空间中逻辑划分创建的可持久化的存储资源对象
    PVC：是对PV资源对象的请求和绑定，也是Pod能挂在使用的一种存储卷类型

### 4. 创建 PV 的方式（PV类型） ###

1）手动根据配置文件创建的的静态Pod
    2）通过StorageClass调用存储卷插件创建的动态PV

### 5. PV 的四种状态 ###

Available（可用）：表示可用状态，PV被创建出来了，还未被PVC绑定
    Bound（已绑定）：表示PV已经被PVC绑定，PV与PVC是一对一的绑定关系
    Released（已释放）：表示PVC被删除，但是PV资源还未被回收
    Failed（失败）：表示PV的自动回收失败

### 6. 创建 PV 资源 ###

#创建使用 静态PV
    1）准备好存储设备和共享目录
    2）手动创建PV资源，配置 存储卷类型 访问模式（RWO RWX ROX RWOP） 存储空间大小  回收策略（Retain Recycle Delete）等
    3）创建PVC资源，配置请求PV资源的访问模式（必要条件，必须是PV能支持的访问模式） 存储空间大小（默认就近选择大于等于指定大小的PV）来绑定PV
    4）创建Pod和Pod控制器资源挂载PVC存储卷，配置存储卷类型为 persistentVolumeClaim ，并在容器配置中定义存储卷挂载点目录
    (不要在 Pod 配置中使用 nodeName 来指定部署节点。因为使用 nodeName， Pod 将会绕过 scheduler 的调度，PWC 将停留在 pending 状态)

#创建使用 动态PV
    1）准备好存储设备和共享目录
    2）如果是外置存储卷插件，需要先创建serviceaccount账户（Pod使用的账户）和做RBAC授权（创建角色授予相关资源对象的操作权限，再将账户和角色进行绑定），使serviceaccount账户具有对PV PVC StorageClass等资源的操作权限
    3）创建外置存储卷插件provisioner的Pod，配置中使用serviceaccount账户作为Pod的用户，并设置相关环境变量参数
    4）创建StorageClass（SC）资源，配置中引用存储卷插件的插件名称（PROVISIONER_NAME）
    ---------------- 以上操作是一劳永逸的，以后只需要创建PVC时设置StorageClass就可以自动调用存储卷插件动态生成PV资源 ----------------
    5）创建PVC资源，配置中设置 StorageClass资源名称 访问模式 存储空间大小。创建PVC资源会自动创建相关的PV资源。
    6）创建Pod资源挂载PVC存储卷，配置存储卷类型为 persistentVolumeClaim ，并在容器配置中定义存储卷挂载点目录

[e84c9dbf6c634c8081e9224b6db71665.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/096c1165f408499992a48825e49a2245.png
[980899bdf3144279b0a2082a42e5571d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/1df642396c7a4e2a83232f6d9dcd06bc.png
[628acb9c6912494593f8e84150b322ce.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/015ac119e92f4eb3a4117a4f983fb619.png
[4d5bb65de14a414bbea6690113dd70a7.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/e11b2fb158da41908819ef0db54a1c40.png
[8bff9d06633144dfae0ede8f14d104bd.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/8430a215f06a40c6ab918b9c20d2877a.png
[76fc14d3f5654fce8f21f0e3a4b149a3.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/6dc2f8e96fe2460095837beb87d649e8.png
[2cc4ee9e6677449587d319f83fe8a011.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/5c2125adfa0e4e429702e9c44cff649e.png
[220d041ce95a4f5c821285536b3e94b2.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/68317112def542e4972012836c522922.png
[8bdd73dc8ff242e380caacf7e2688aea.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/8ffa5dc5f9a944aeb3be116aede559fa.png
[e051fe6b51da4fba91217e7b64eabba0.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/ab9e741c492d49bcac7997ca19f5479f.png
[1dc9bcc02206416a9691f51bf018227c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/8b1cfdf703ca4221a93fa4bb8f74565f.png
[img-tvOYIL3i-1692012639956_C_Users_86138_AppData_Roaming_Typora_typora-user-images_image-20230814143406216.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/d31987afc1e94008a5998e586472341d.png
[f2ddcfb673d5419e828ea6e1b9de41d4.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/8e51697951e74e86aca333079edd7a11.png
[355c85046e5b47bcbbc0d3e5e2133ea9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/f9c6a408b4754cd992816fa5a7186994.png
[70b8a9d8105047faac626c451bf36f73.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/7627d7f620df4c59b45e208854704d4a.png
[2ddd99a3a0224e478366093bbe592280.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/93d05430c1c04988b5ff8cb522f5b661.png
[4d4e56defae74440bc60b75061cf1b5c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/0a89d2f6881146b29e8c292495e1ac3c.png
[4e5218a0cf2045c58270587e657cd585.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/cc494b00d4f24b2ab00bca98fe13b6db.png
[6ab8f548a2be499789468415ca496352.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/1d75a065b1f742849d59941cf79780c0.png
[2b0537f45a1a47319f0b33376971b160.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/e5cfc78074924aedb202fe7b3e5d5389.png
[345714f3bc884f278ec74b9976e39432.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/5d16ac8bdecd47f9a8e94358ec63b991.png
[https_kubernetes.io_zh_docs_concepts_storage_storage-classes]: https://kubernetes.io/zh/docs/concepts/storage/storage-classes/
[3162cf0e315a4c7b8b3c859514f4fab2.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/19ae5e0c3df3436ca3b1ff28b3209f64.png
[cec8e51e0fa34c3baa69ffce15da0d98.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/bb082b26213b40858e9f730742da00a5.png
[eb5f814e88ac491ca21644a6b6667b23.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/66cac68f0fde41d4b0c73b968bc7060c.png
[4dba09d0cb9c42448833eea28dded23a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/4112cc6546654695af21a3d0caa16ca2.png
[42e4f78a0423428bbeeaa6f57466f10e.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/f2645dd49c6c419eae2da01c58e1c94d.png
[ca0dfb01b6f74a5d8503d388acf03365.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/322bbba0c9b943198cb57d44799b0de9.png
[6cd0c59a7bde436586972460501a9843.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/a4226a57ec5b444da41fb229962ddd4c.png
[3c93386640da48ba9a9cd370d15e9d24.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/a4779a3e8c12479a998f241fe132ae94.png
[9678a00c88f2454c8e0d9cbe0143bd29.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/d03ee66f005749a49621ad2a78c3d9ba.png
[90cea09cf1fc4200aff6330f28e48f3c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/ad7ac6c667b448f8a98f847691785381.png
[53113d3469e44763aba6e788d514ff87.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/39d232481b074ec49c6d1e4707c28e88.png
[097cb9a1dede4c7eb8f12acc85ed0b88.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/524ad31f7b5c4361896f863ad90707a4.png
[46d6482aa0e44808ac5d560ee462a759.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/2b2fe5db52374441a90b87695ced03e4.png
[6126637753954f0eb2b986abc5b1d175.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/ce8de921cc1c41c08a76dcc5b0ef2c08.png