Kubernetes-数据存储
数据存储概述
容器的生命周期可能很短，会被频繁地创建和销毁。那么容器在销毁时，保存在容器中的数据也会被清除。这种结果对用户来说，在某些情况下是不乐意看到的。为了持久化保存容器的数据，kubernetes引入了Volume的概念。Volume是Pod中能够被多个容器访问的共享目录，它被定义在Pod上，然后被一个Pod里的多个容器挂载到具体的文件目录下，kubernetes通过Volume实现同一个Pod中不同容器之间的数据共享以及数据的持久化存储。Volume的生命容器不与Pod中单个容器的生命周期相关，当容器终止或者重启时，Volume中的数据也不会丢失。
数据存储类型
- 简单存储：EmptyDir、HostPath、NFS
- 高级存储：PV、PVC
- 配置存储：ConfigMap、Secret
简单存储
EmptyDir
EmptyDir是最基础的Volume类型，一个EmptyDir就是Host上的一个空目录。
EmptyDir是在Pod被分配到Node时创建的，它的初始内容为空，并且无须指定宿主机上对应的目录文件，因为kubernetes会自动分配一个目录，当Pod销毁时， EmptyDir中的数据也会被永久删除。 EmptyDir用途如下：
-
临时空间，例如用于某些应用程序运行时所需的临时目录，且无须永久保留
-
一个容器需要从另一个容器中获取数据的目录（多容器共享目录）
在一个Pod中准备两个容器nginx和busybox，然后声明一个Volume分别挂在到两个容器的目录中，然后nginx容器负责向Volume中写日志，busybox中通过命令将日志内容读到控制台。
创建Volume-Emptydir.yaml,内容如下
apiVersion: v1
kind: Pod
metadata:
name: volume-emptydir
namespace: default
spec:
containers:
- name: nginx
image: docker.io/library/nginx:1.23.1
ports:
- containerPort: 80
volumeMounts: # 将logs-volume挂在到nginx容器中，对应的目录为 /var/log/nginx
- name: logs-volume
mountPath: /var/log/nginx
- name: busybox
image: docker.io/library/busybox:1.35.0
command: # 初始命令，动态读取指定文件中内容
volumeMounts: # 将logs-volume 挂在到busybox容器中，对应的目录为 /logs
- name: logs-volume
mountPath: /logs
volumes: # 声明volume， name为logs-volume，类型为emptyDir
- name: logs-volume
emptyDir:
# 创建Pod
# kubectl create -f Volume-Emptydir.yaml
pod/volume-emptydir created
# 查看Pod
# kubectl get pod -n default -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
volume-emptydir 2/2 Running 0 76s 10.244.67.121 work1.host.com <none> <none>
# 访问nginx
# curl 10.244.67.121
......
<h1>Welcome to nginx!</h1>
......
# 查看busybox日志
# kubectl logs -f volume-emptydir -n default -c busybox
10.244.34.192 - - [06/Sep/2022:12:50:33 +0000] "GET / HTTP/1.1" 200 615 "-" "curl/7.61.1" "-"
HostPath
EmptyDir中数据不会被持久化，它会随着Pod的结束而销毁，如果想简单的将数据持久化到主机中，可以选择HostPath。HostPath就是将Node主机中一个实际目录挂在到Pod中，以供容器使用，这样的设计就可以保证Pod销毁了，但是数据依据可以存在于Node主机上。
创建Volume-Hostpath.yaml,内容如下
apiVersion: v1
kind: Pod
metadata:
name: volume-hostpath
namespace: default
spec:
containers:
- name: nginx
image: docker.io/library/nginx:1.23.1
ports:
- containerPort: 80
volumeMounts:
- name: logs-volume
mountPath: /var/log/nginx
- name: busybox
image: docker.io/library/busybox:1.35.0
command:
volumeMounts:
- name: logs-volume
mountPath: /logs
volumes:
- name: logs-volume
hostPath:
path: /root/logs
type: DirectoryOrCreate # 目录存在就使用，不存在就先创建后使用
# 创建Pod
# 查看Pod
# 发现部署在work1下面
# 访问nginx
<h1>Welcome
# 查看文件
# 在work1主机里查看/root/logs/目录
NFS
HostPath可以解决数据持久化的问题，但是一旦Node节点故障了，Pod如果转移到了别的节点，又会出现问题了，此时需要准备单独的网络存储系统，比较常用的用NFS、CIFS。NFS是一个网络文件存储系统，可以搭建一台NFS服务器，然后将Pod中的存储直接连接到NFS系统上，这样的话，无论Pod在节点上怎么转移，只要Node跟NFS的对接没问题，数据就可以成功访问。
# 在master主机安装nfs服务
# 创建共享目录
# 编写配置文件
)
# 启动nfs服务
&&
# 更新配置
# 在work节点安装nfs-utils
# 在work节点验证nfs
创建Volume-Nfs.yaml，内容如下
apiVersion: v1
kind: Pod
metadata:
name: volume-nfs
namespace: default
spec:
containers:
- name: nginx
image: docker.io/library/nginx:1.23.1
ports:
- containerPort: 80
volumeMounts:
- name: logs-volume
mountPath: /var/log/nginx
- name: busybox
image: docker.io/library/busybox:1.35.0
command:
volumeMounts:
- name: logs-volume
mountPath: /logs
volumes:
- name: logs-volume
nfs:
server: 192.16.1.10 #nfs服务器地址
path: /root/data/nfs #共享文件路径
# 创建Pod
# 查看Pod
# 查看master节点nfs的目录
# 发现已经有数据了
高级存储
前面已经介绍了NFS提供存储，此时就要求用户会搭建NFS系统，并且会在yaml配置nfs。由于kubernetes支持的存储系统有很多，要求客户全都掌握，显然不现实。为了能够屏蔽底层存储实现的细节，方便用户使用， kubernetes引入PV和PVC两种资源对象。PV（Persistent Volume）是持久化卷的意思，是对底层的共享存储的一种抽象。一般情况下PV由kubernetes管理员进行创建和配置，它与底层具体的共享存储技术有关，并通过插件完成与共享存储的对接。
PVC（Persistent Volume Claim）是持久卷声明的意思，是用户对于存储需求的一种声明。换句话说，PVC其实就是用户向kubernetes系统发出的一种资源需求申请。
使用了PV和PVC之后，工作可以得到进一步的细分：
- 存储：存储工程师维护
- PV：kubernetes管理员维护
- PVC：kubernetes用户维护
PV
PV（Persistent Volume）是持久化卷的意思，是对底层的共享存储的一种抽象。一般情况下PV由kubernetes管理员进行创建和配置，它与底层具体的共享存储技术有关，并通过插件完成与共享存储的对接。
PV是存储资源的抽象，下面是是资源清单格式
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv2
spec:
nfs: # 存储类型，与底层真正存储对应
capacity: # 存储能力，目前只支持存储空间的设置
storage: 2Gi
accessModes: # 访问模式
storageClassName: # 存储类别
persistentVolumeReclaimPolicy: # 回收策略
-
存储类型
底层实际存储的类型，kubernetes支持多种存储类型，每种存储类型的配置都有所差异
-
存储能力（capacity）
目前只支持存储空间的设置( storage=1Gi )，不过未来可能会加入IOPS、吞吐量等指标的配置
-
访问模式（accessModes）
用于描述用户应用对存储资源的访问权限，访问权限包括下面几种方式：
- ReadWriteOnce（RWO）：读写权限，但是只能被单个节点挂载
- ReadOnlyMany（ROX）： 只读权限，可以被多个节点挂载
- ReadWriteMany（RWX）：读写权限，可以被多个节点挂载
需要注意的是，底层不同的存储类型可能支持的访问模式不同 -
回收策略（persistentVolumeReclaimPolicy）
当PV不再被使用了之后，对其的处理方式。目前支持三种策略：
- Retain （保留） 保留数据，需要管理员手工清理数据
- Recycle（回收） 清除 PV 中的数据，效果相当于执行 rm -rf /thevolume/*
- Delete （删除） 与 PV 相连的后端存储完成 volume 的删除操作，当然这常见于云服务商的存储服务
需要注意的是，底层不同的存储类型可能支持的回收策略不同 -
存储类别
PV可以通过storageClassName参数指定一个存储类别
-
具有特定类别的PV只能与请求了该类别的PVC进行绑定
-
未设定类别的PV则只能与不请求任何类别的PVC进行绑定
-
-
状态（status）
一个 PV 的生命周期中，可能会处于4中不同的阶段：
- Available（可用）： 表示可用状态，还未被任何 PVC 绑定
- Bound（已绑定）： 表示 PV 已经被 PVC 绑定
- Released（已释放）： 表示 PVC 被删除，但是资源还未被集群重新声明
- Failed（失败）： 表示该 PV 的自动回收失败
使用NFS作为存储，来创建PV，NFS配置如下
# master节点创建nfs存储 # cat /etc/exports /root/data/pv1 192.16.1.0/24(rw,no_root_squash) /root/data/pv2 192.16.1.0/24(rw,no_root_squash) /root/data/pv3 192.16.1.0/24(rw,no_root_squash) # exportfs -r # work节点查看 # showmount -e 192.16.1.10 Export list for 192.16.1.10: /root/data/pv3 192.16.1.0/24 /root/data/pv2 192.16.1.0/24 /root/data/pv1 192.16.1.0/24创建Pv-Env.yaml,内容如下
apiVersion: v1 kind: PersistentVolume metadata: name: pv1 spec: capacity: storage: 1Gi accessModes: - ReadWriteMany persistentVolumeReclaimPolicy: Retain nfs: path: /root/data/pv1 server: 192.16.1.10 --- apiVersion: v1 kind: PersistentVolume metadata: name: pv2 spec: capacity: storage: 2Gi accessModes: - ReadWriteMany persistentVolumeReclaimPolicy: Retain nfs: path: /root/data/pv2 server: 192.16.1.10 --- apiVersion: v1 kind: PersistentVolume metadata: name: pv3 spec: capacity: storage: 3Gi accessModes: - ReadWriteMany persistentVolumeReclaimPolicy: Retain nfs: path: /root/data/pv3 server: 192.16.1.10# 创建Pv # 查看Pv
PVC
PVC（Persistent Volume Claim）是持久卷声明的意思，是用户对于存储需求的一种声明。换句话说，PVC其实就是用户向kubernetes系统发出的一种资源需求申请。
PVC是资源的申请，用来声明对存储空间、访问模式、存储类别需求信息。下面是是资源清单格式
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: pvc
namespace: dev
spec:
accessModes: # 访问模式
selector: # 采用标签对PV选择
storageClassName: # 存储类别
resources: # 请求空间
requests:
storage: 5Gi
- 访问模式（accessModes）
用于描述用户应用对存储资源的访问权限
-
选择条件（selector）
通过Label Selector的设置，可使PVC对于系统中己存在的PV进行筛选
-
存储类别（storageClassName）
PVC在定义时可以设定需要的后端存储的类别，只有设置了该class的pv才能被系统选出
-
资源请求（Resources ）
描述对存储资源的请求
创建Pvc-Basic.yaml,内容如下
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: pvc1
namespace: default
spec:
accessModes:
- ReadWriteMany
resources:
requests:
storage: 1Gi
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: pvc2
namespace: default
spec:
accessModes:
- ReadWriteMany
resources:
requests:
storage: 1Gi
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: pvc3
namespace: default
spec:
accessModes:
- ReadWriteMany
resources:
requests:
storage: 1Gi
# 创建Pvc
# 查看Pvc
# 查看Pv状态
Pod使用Pvc作为存储，创建Pvc-Pod.yaml,内容如下
apiVersion: v1
kind: Pod
metadata:
name: pvc-pod1
namespace: default
spec:
containers:
- name: busybox
image: docker.io/library/busybox:1.35.0
command:
volumeMounts:
- name: volume
mountPath: /root/
volumes:
- name: volume
persistentVolumeClaim:
claimName: pvc1
readOnly: false
---
apiVersion: v1
kind: Pod
metadata:
name: pvc-pod2
namespace: default
spec:
containers:
- name: busybox
image: docker.io/library/busybox:1.35.0
command:
volumeMounts:
- name: volume
mountPath: /root/
volumes:
- name: volume
persistentVolumeClaim:
claimName: pvc2
readOnly: false
# 创建Pod
# 查看Pod
# 查看Pvc
# 查看nfs中的存储文件
生命周期
PVC和PV是一一对应的，PV和PVC之间的相互作用遵循以下生命周期：
-
资源供应：管理员手动创建底层存储和PV
-
资源绑定：用户创建PVC，kubernetes负责根据PVC的声明去寻找PV，并绑定
在用户定义好PVC之后，系统将根据PVC对存储资源的请求在已存在的PV中选择一个满足条件的
-
一旦找到，就将该PV与用户定义的PVC进行绑定，用户的应用就可以使用这个PVC了
-
如果找不到，PVC则会无限期处于Pending状态，直到等到系统管理员创建了一个符合其要求的PV
PV一旦绑定到某个PVC上，就会被这个PVC独占，不能再与其他PVC进行绑定了
-
-
资源使用：用户可在pod中像volume一样使用pvc
Pod使用Volume的定义，将PVC挂载到容器内的某个路径进行使用。
-
资源释放：用户删除pvc来释放pv
当存储资源使用完毕后，用户可以删除PVC，与该PVC绑定的PV将会被标记为“已释放”，但还不能立刻与其他PVC进行绑定。通过之前PVC写入的数据可能还被留在存储设备上，只有在清除之后该PV才能再次使用。
-
资源回收：kubernetes根据pv设置的回收策略进行资源的回收
对于PV，管理员可以设定回收策略，用于设置与之绑定的PVC释放资源之后如何处理遗留数据的问题。只有PV的存储空间完成回收，才能供新的PVC绑定和使用
配置存储
ConfigMap
ConfigMap是一种比较特殊的存储卷，它的主要作用是用来存储配置信息的。
创建Cm-Basic.yaml，内容如下：
apiVersion: v1
kind: ConfigMap
metadata:
name: configmap
namespace: default
data:
info: |
username:admin
password:123456
# 创建Cm
# 查看Cm
====
====
创建Cm-Pod.yaml来使用Cm，内容如下
apiVersion: v1
kind: Pod
metadata:
name: cm-pod
namespace: default
spec:
containers:
- name: nginx
image: docker.io/library/nginx:1.23.1
volumeMounts: # 将configmap挂载到目录
- name: config
mountPath: /configmap/config
volumes: # 引用configmap
- name: config
configMap:
name: configmap
# 创建Pod
# 查看Pod
# 进入容器查看数据
# ls /configmap/config/
# cat /configmap/config/info
# 可以看到映射已经成功，每个configmap都映射成了一个目录
# key--->文件 value---->文件中的内容
# 此时如果更新configmap的内容, 容器中的值也会动态更新
Secret
在kubernetes中，还存在一种和ConfigMap非常类似的对象，称为Secret对象。它主要用于存储敏感信息，例如密码、秘钥、证书等等。
# 首先使用base64对数据进行编码
|
YWRtaW4=
|
创建Secret-Basic.yaml,内容如下
apiVersion: v1
kind: Secret
metadata:
name: secret
namespace: default
type: Opaque
data:
username: YWRtaW4=
password: MTIzNDU2
# 创建Secret
# 查看Secret详情
# 发现配置只显示大小
====
创建Secret-Pod.yaml,内容如下
apiVersion: v1
kind: Pod
metadata:
name: secret-pod
namespace: default
spec:
containers:
- name: nginx
image: docker.io/library/nginx:1.23.1
volumeMounts: # 将secret挂载到目录
- name: config
mountPath: /secret/config
volumes:
- name: config
secret:
secretName: secret
# 创建Pod
# 查看Pod
# 进入容器查看secret信息
# 发现会自动解码
# ls /secret/config
# cat /secret/config/username
# cat /secret/config/password