Kubernetes 集群资源的那些事

小咪咪 2022-09-30 03:50 151阅读 0赞

出处：[Kubernetes 集群资源的那些事][Kubernetes]

大多数时候，我们在跟 K8S 玩耍的时候，主要目的就是：“把 XXX 打个镜像，在集群上跑起来 ——— 诶快看，真的跑起来了嘿！”。

Kubernetes 和 [Docker][] 的缺省配置，就能够帮我们省却很多麻烦。不过大家都很清楚，资源问题是无法回避的，我们在传统 IT 环境下遇到的各种资源相关问题，在容器集群环境下一样要得到解决，多租户动态分配环境下，这些问题会更加复杂。

> 本文仅是一个索引，不准备也没能力做过多的深入，只是将一些需要注意的内容罗列出来做一些大致介绍。
> 
> 有些内容称作资源可能并不是很恰当，暂时存在资源这个筐里吧。

## 磁盘 ##

### [Volume][] ###

一般我们会用存储卷的方式来给 Pod 提供存储资源。

起初的存储卷，在用量的控制方面，只能借存储的实际提供者的能力来进行。例如可以限制 GlusterFS 中 Volume 的大小。

接下来出现了 Persistent Volume (PV) 和 Persistent Volume Claim (PVC) 这一组对象，完成了 “生产——消费” 关系，这就可以通过 Provision -> Claim 的方式，来对存储资源进行控制。

而最新版本中还出现了动态卷供给的功能，能够对这一部分功能进行简化，无需首先建立 PV，直接建立 PVC 即可。

有了 PVC 这一能力之后，Kubernetes 就借用这一对象对 Namespace 的存储访问进行了限制：

<table style="border-spacing:0px; border-collapse:collapse; font-size:12px; border-top-style:solid; border-top-width:1px; border-top-color:rgb(221,221,221); border-left-style:solid; border-left-width:1px; border-left-color:rgb(221,221,221); width:780px; margin-bottom:18px; color:rgb(85,85,85); font-family:'Microsoft Yahei'; line-height:25px"> 
 <thead style=""> 
  <tr style=""> 
   <th style="padding:5px 10px; text-align:center; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221); background-color:rgb(249,249,249)"> 对象名称</th> 
   <th style="padding:5px 10px; text-align:center; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221); background-color:rgb(249,249,249)"> 解释</th> 
  </tr> 
 </thead> 
 <tbody style=""> 
  <tr style=""> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> requests.storage</td> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> 所有的 PVC 申请容量之和不能超过此数值</td> 
  </tr> 
  <tr style=""> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> persistentvolumeclaims</td> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> 一个 Namespace 中 PVC 的总数（Count）</td> 
  </tr> 
  <tr style=""> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> <code style="font-family:Menlo,Monaco,Consolas,'Courier New',monospace; padding:2px 4px; color:rgb(199,37,78); background-color:rgb(249,242,244)">&lt;storage-class-name&gt;.storageclass.storage.k8s.io/requests.storage</code></td> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> 所有针对该 StorageClass 的 PVC 所申请的存储总容量不得超出这一数值</td> 
  </tr> 
  <tr style=""> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> <code style="font-family:Menlo,Monaco,Consolas,'Courier New',monospace; padding:2px 4px; color:rgb(199,37,78); background-color:rgb(249,242,244)">&lt;storage-class-name&gt;.storageclass.storage.k8s.io/persistentvolumeclaims</code></td> 
   <td style="padding:5px 10px; border-bottom-style:solid; border-bottom-width:1px; border-bottom-color:rgb(221,221,221); border-right-style:solid; border-right-width:1px; border-right-color:rgb(221,221,221)"> 所有针对该 StorageClass 最多能创建的 PVC 数量</td> 
  </tr> 
 </tbody> 
</table>

### 日志 ###

目前我们在实际使用中，爆磁盘的原因，除了对存储卷的控制不够之外，还有一个重要的点就是容器的日志，缺省情况下 Docker 使用的日志驱动是 json-file，这一驱动有个附加参数 `--log-opt max-size=[size]` 可以用来限制日志的最大占用空间。

> https://docs.docker.com/engine/admin/logging/overview/ 还提供了很多其他的日志选项供选择

### Node ###

除了上面讲到的集群层面的问题之外，磁盘空间还对 Node(Kubelet) 的健康有重大影响。Kubelet 有几个参数用于对存储使用进行控制：

*  `--low-diskspace-threshold-mb`：如果剩余空间低于这一限制，则拒绝在这一 Node 上新建 Pod（目前建议用新的驱逐规则来代替这一参数）。
 *  `--image-gc-high-threshold`：高于该值则启动 GC。
 *  `--image-gc-low-threshold`：低于该值拒绝启动 GC。

在驱逐策略中，提供了如下几个磁盘相关的参数：

*  nodefs.available
 *  nodefs.inodesFree
 *  imagefs.available
 *  imagefs.inodesFree

这里把 Node 磁盘分为 node 和 image 两种分别度量其 available 和 inodes，应该说比上面的 threshold 更加精确了

## CPU 和内存 ##

这一对资源应该算是 Kubernetes 中的 “经典” 资源了。Kubernetes 对 CPU 和内存提供了 requests/limits 两种度量，可以在 Container 的 Spec 中进行指定。

在 namespace 一级中，提供了如下的总量限制：

*  limits.cpu：所有非结束状态的 Pod 的 CPU limit 总数。
 *  limits.memory：所有非结束状态的 Pod 的 内存 limit 总数。
 *  requests.cpu：所有非结束状态的 Pod 的 CPU request 总数。
 *  requests.memory：所有非结束状态的 Pod 的 CPU request 总数。

### Node ###

和前面的磁盘的情况类似，Kubelet 中对 CPU 和内存也有新旧两套切换中的体系来进行限制：

*  `--kube-reserved`

驱逐策略中提供了如下参数：

*  memory.available

### quota 和 limitrange ###

这是两个不同的 API Object，分别对应 namespace 的配额，和运行应用(Pod/Container)的资源限制。

## GPU ##

这方面基本没有接触，但是随着深度学习之类名词的迅速炒热，相信 Kubernetes 会快速跟进的。

将在 1.6 中推出多 GPU 支持的 Alpha 版本。

## 网络 ##

在 [K8S1.5版本][K8S1.5] 中，网络策略已经成为 Beta 版本，利用这一对象，横向可以实现 namespace 之间的隔离；纵向可以定义 namespace 内不同职责应用的网络访问能力。这就有效的阻断了不同租户之间利用 dns 进行授权之外的访问的途径。

## 参考资料： ##

*  网络策略：https://kubernetes.io/docs/user-guide/networkpolicies/
 *  驱逐策略：http://blog.fleeto.us/translation/configuring-out-resource-handling
 *  存储：
    
     *  http://blog.fleeto.us/translation/dynamic-provisioning-and-storage-classes-kubernetes
     *  http://blog.fleeto.us/translation/persistent-volumes

[Kubernetes]: https://www.kubernetes.org.cn/1671.html
[Docker]: https://www.kubernetes.org.cn/tags/docker
[Volume]: https://www.kubernetes.org.cn/kubernetes-volumes
[K8S1.5]: https://www.kubernetes.org.cn/tags/kubernetes1-5