Kubernetes volumes简介

青旅半醒 2022-03-31 06:41 226阅读 0赞

# Kubernetes volumes简介 #

容器中的磁盘文件生命周期比较短暂，在一些比较复杂的容器应用中会产生一些问题。一、容器crash后，kubelet会重启该容器，但这些文件会丢失掉。二、pod中的多个容器经常需要共享文件。因此，Kubernetes的Volume应然而生，用于解决这些问题。

# 背景 #

在Docker中，也有[volumes][]这个概念，volume只是磁盘上一个简单的目录，或者其他容器中的volume。生命周期也不受管理，并且直到最近他们都是基于本地后端存储的。Docker现在也提供了volume driver，但是现在来说功能也较弱（比如官网提到的Ceph volume driver，现在已经没有维护了）。   
　　Kubernetes的volume，有着明显的生命周期——和使用它的pod生命周期一致。因此，volume生命周期就比运行在pod中的容器要长久，即使容器重启，volume上的数据依然保存着。当然，pod不再存在时，volume也就消失了。更重要的是，Kubernetes支持多种类型的volume，并且pod可以同时使用多种类型的volume。   
　　内部实现中，volume只是一个目录，目录中可能有一些数据，pod的容器可以访问这些数据。这个目录是如何产生的，它后端基于什么存储介质，其中的数据内容是什么，这些都由使用的特定volume类型来决定。   
　　要使用volume，pod需要指定volume的类型和内容（`spec.volumes`字段），和映射到容器的位置（`spec.containers.volumeMounts`字段）。   
　　容器中的进程可以看到Docker image和volumes组成的文件系统。Docker image处于文件系统架构的root，任何volume都映射在镜像的特定路径上。Volume不能映射到其他volume上，或者硬链接到其他volume。容器中的每个容器必须堵路地指定他们要映射的volume。

# Volume类型 #

Kubernetes支持很多种类的volume，包括：emptyDir、hostPath、gcePersistentDisk、awsElasticBlockStore、nfs、iscsi、flocker、glusterfs、rbd、cephfs、gitRepo、secret、persistentVolumeClaim、downwardAPI、azureFileVolume、azureDisk、vsphereVolume、Quobyte、PortworxVolume、ScaleIO。

## emptyDir ##

当Pod被分配到一个Node上时，`emptyDir` volume就第一次被创建，只要Pod还运行在该Node上，该volume就一直存在。就像它名字里介绍的一样，它初始化时是空的。pod中的容器都能够完全读写`emptyDir` volume中相同文件，即使volume可能被映射到每个容器中不同的路径下。任何情况下，一旦pod从该Node上移除了，`emptyDir` volume中的数据就被永久删除了。***注意***：容器crash并不会在Node上删除pod，因此`emptyDir` volume中的数据依然是安全的。   
　　`emptyDir` volume的使用场景有：   
　　1) 临时空间，如基于磁盘的排序场景等；   
　　2) 从crash中通过checkpointing做长时间的计算恢复；   
　　默认的，`emptyDir` volume可以存储在任何后端介质之上——普通磁盘、ssd或网络存储，这都取决于你的环境。然而，你也可以设置`emptyDir.medium`字段为`Memory`，告诉Kubernetes映射tmpfs（基于RAM的文件系统）。tmpfs速度非常快，但要小心它和磁盘不同，一旦机器重启，tmpfs就会被清空，并且，tmpfs上写文件会受到容器内存的限制。   
　　pod示例：

apiVersion: v1
    kind: Pod
    metadata:
      name: test-pd
    spec:
      containers:
      - image: gcr.io/google_containers/test-webserver
        name: test-container
        volumeMounts:
        - mountPath: /cache
          name: cache-volume
      volumes:
      - name: cache-volume
        emptyDir: {}

## hostPath ##

`hostPath` volume映射node文件系统中的文件或者目录到pod里。大多数Pod都不需要这个功能，但对于一些特定的场景，该特性还是很有作用的。这些场景包括：   
　　1) 运行的容器需要访问Docker内部结构：使用`hostPath`映射`/var/lib/docker`   
　　2) 在容器中运行cAdvisor，使用`hostPath`映射`/dev/cgroups`   
　　不过，使用这种volume要小心，因为：   
　　1) 配置相同的pod（如通过podTemplate创建），可能在不同的Node上表现不同，因为不同节点上映射的文件内容不同   
　　2) 当Kubernetes增加了资源敏感的调度程序，`hostPath`使用的资源不会被计算在内   
　　3) 宿主机下创建的目录只有root有写权限。你需要让你的程序运行在[privileged container][]上，或者修改宿主机上的文件权限。   
　　pod示例：

apiVersion: v1
    kind: Pod
    metadata:
      name: test-pd
    spec:
      containers:
      - image: gcr.io/google_containers/test-webserver
        name: test-container
        volumeMounts:
        - mountPath: /test-pd
          name: test-volume
      volumes:
      - name: test-volume
        hostPath:
          # directory location on host
          path: /data

## rbd ##

`rbd`卷可以将[Rados Block Device][]设备映射到pod中。当Pod被移除时，`emptyDir`卷的内容会被清空，和`emptyDir`不同，`rbd`卷的内容还存在着，仅仅是卷被卸载掉而已。也就是说，`rbd`卷可以其上的数据一起，再次被映射，数据也可以在pod之间传递。   
　　**重要：在使用`rbd`卷之前，你必须先安装Ceph环境。**   
　　RBD的一个特性就是能够以只读的方式同时映射给多个用户使用。不幸的是，`rbd`卷只能被一个用户已可读写的模式映射——不能同时允许多个可写的用户使用。   
　　查看[RBD example][]获取更多细节。

## cephfs ##

`cephfs`卷可以将已经存在的CephFS卷映射到pod中。与`rbd`卷相同，当pod被移除时，`cephfs`卷的内容还存在着，仅仅是卷被卸载掉而已。另外一点不同的是，CephFS可以同时以可读写的方式映射给多个用户。   
　　查看[CephFS example][]获取更多细节。

# 使用subPath #

有时，可以在一个pod中，将同一个卷共享，使其有多个用处。`volumeMounts.subPath`特性可以用来指定卷中的一个子目录，而不是直接使用卷的根目录。   
　　这里有一个使用LAMP栈（Linux Apache Mysql PHP）的pod示例，该pod使用了一个共享的卷。HTML内容映射在它的`html`子目录，而数据库则保存在它的`mysql`目录。

apiVersion: v1
    kind: Pod
    metadata:
      name: my-lamp-site
    spec:
        containers:
        - name: mysql
          image: mysql
          volumeMounts:
          - mountPath: /var/lib/mysql
            name: site-data
            subPath: mysql
        - name: php
          image: php
          volumeMounts:
          - mountPath: /var/www/html
            name: site-data
            subPath: html
        volumes:
        - name: site-data
          persistentVolumeClaim:
            claimName: my-lamp-site-data

# 资源 #

`emptyDir`或者`hostPath`卷的存储介质（磁盘，SSD等）取决于kubelet根目录（如`/var/lib/kubelet`）所处文件系统的存储介质。现在没有限制`emptyDir`或者`hostPath`卷能使用的空间大小，也没有对容器或者pod的资源隔离。   
　　未来，我们期望`emptyDir`或者`hostPath`卷能够通过resource属性，来请求指定大小的空间，并且选择存储介质类型。

# 总结 #

Kubernetes的volume用于pod内部的数据存储，pod容器内部数据是可以共享的，其生命周期与所属pod生命周期相同。其用处一般是pod生命周期的临时数据存储等。

[volumes]: https://docs.docker.com/engine/tutorials/dockervolumes/
[privileged container]: https://kubernetes.io/docs/user-guide/security-context
[Rados Block Device]: http://ceph.com/docs/master/rbd/rbd/
[RBD example]: https://github.com/kubernetes/kubernetes/tree/master/examples/volumes/rbd
[CephFS example]: https://github.com/kubernetes/kubernetes/tree/master/examples/volumes/cephfs/