1. 前言
NAS存储盘能将nfs(网络文件系统)挂载到你的Pod中,阿里云Kubernetes CSI支持静态存储卷挂载
和动态存储卷挂载
2种方式, 在静态存储卷挂载
的方式中,通常需要手动编辑和创建一个pv/pvc进行挂载,当需要的pv/pvc数量很大的时候,手动创建就显得非常繁琐了,这时动态存储卷挂载
的功能可以满足您的需求。本文演示如何使用NAS动态存储卷。
2. 部署csi-nas-plugin
查看ACK集群中是否已部署csi-nasprovisioner
:
$ kubectl -nkube-system get sts csi-provisioner -oyaml|grep csi-nasprovisioner
name: csi-nasprovisioner
如何你的Kubernetes集群中还没有部署, 请参考以下步骤进行部署:
2.1 部署csi-provisioner
$ kubectl create -f https://raw.githubusercontent.com/kubernetes-sigs/alibaba-cloud-csi-driver/master/deploy/nas/nas-provisioner.yaml
2.2 部署csi-nasplugin
$ kubectl create -f https://raw.githubusercontent.com/kubernetes-sigs/alibaba-cloud-csi-driver/master/deploy/nas/nas-plugin.yaml
2.3 检查运行状态
$ kubectl -nkube-system get po -o wide |grep csi
csi-nasplugin-7mbmx 2/2 Running 0
csi-nasplugin-89t9v 2/2 Running 0
csi-nasplugin-8fw5p 2/2 Running 0
csi-nasplugin-grbqn 2/2 Running 0
csi-nasplugin-ks8mw 2/2 Running 0
csi-nasplugin-pp5g7 2/2 Running 0
csi-provisioner-0 2/2 Running 0
3. 使用NAS动态存储卷
目前阿里云Kubernetes CSI支持2种类型的NAS动态存储卷挂载:subpath
方式和filesystem
方式。
3.1 subpath
类型的NAS动态存储卷使用
3.1.1 使用场景
当你的多个Kubernetes应用或者Pod需要挂载相同的NAS存储卷共享数据时,或不同的Pod挂载相同NAS文件系统的不同子目录时, 可以使用subpath
类型的NAS动态存储卷方式。
3.1.2 创建NAS文件系统和挂载点
subpath
的方式要求用户首先使用NAS控制台 或 SDK/API 创建好NAS文件系统和挂载点。
文件系统:
挂载点:
3.1.3 创建StoragClass
编辑storageclass.yaml
文件, 详细参数说明见:https://github.com/kubernetes-sigs/alibaba-cloud-csi-driver/blob/master/docs/nas-dynamic.md
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
name: alicloud-nas-subpath
mountOptions:
- nolock,tcp,noresvport
- vers=3
parameters:
volumeAs: subpath
server: "xxxxxxx.cn-hangzhou.nas.aliyuncs.com:/k8s/"
provisioner: nasplugin.csi.alibabacloud.com
reclaimPolicy: Retain
运行以下命令创建StorageClass alicloud-nas-subpath
$ kubectl create -f storageclass.yaml
3.1.4 创建PV/PVC和Pod挂载NAS存储卷
创建Pod nginx-1
nginx-2
共享NAS存储卷的同一个子目录, pvc.yaml
nginx-1.yaml
和nginx-2.yaml
文件内容如下:pvc.yaml
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
name: nas-csi-pvc
spec:
accessModes:
- ReadWriteMany
storageClassName: alicloud-nas-subpath
resources:
requests:
storage: 20Gi
nginx-1.yaml
:
apiVersion: apps/v1
kind: Deployment
metadata:
name: deployment-nas-1
labels:
app: nginx-1
spec:
selector:
matchLabels:
app: nginx-1
template:
metadata:
labels:
app: nginx-1
spec:
containers:
- name: nginx
image: nginx:1.7.9
ports:
- containerPort: 80
volumeMounts:
- name: nas-pvc
mountPath: "/data"
volumes:
- name: nas-pvc
persistentVolumeClaim:
claimName: nas-csi-pvc
nginx-2.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
name: deployment-nas-2
labels:
app: nginx-2
spec:
selector:
matchLabels:
app: nginx-2
template:
metadata:
labels:
app: nginx-2
spec:
containers:
- name: nginx
image: nginx:1.7.9
ports:
- containerPort: 80
volumeMounts:
- name: nas-pvc
mountPath: "/data"
volumes:
- name: nas-pvc
persistentVolumeClaim:
claimName: nas-csi-pvc
创建pvc和deployment:
$ kubectl create -f pvc.yaml -f nginx-1.yaml -f nginx-2.yaml
$ kubectl get po
NAME READY STATUS RESTARTS AGE
deployment-nas-1-5b5cdb85f6-nhklx 1/1 Running 0 32s
deployment-nas-2-c5bb4746c-4jw5l 1/1 Running 0 32s
在这种情况下, NAS存储卷的xxxxxxx.cn-hangzhou.nas.aliyuncs.com:/share/nas-79438493-f3e0-11e9-bbe5-00163e09c2be
会同时挂载到deployment-nas-1-5b5cdb85f6-nhklx
和 deployment-nas-2-c5bb4746c-4jw5l
的 /data
目录下。 注意: "/share" 为StorageClass中指定的subpath,"nas-79438493-f3e0-11e9-bbe5-00163e09c2be"为pv的name
如果你需要为不同的Pod挂载同一个NAS文件系统的不同子目录, 则需要分别创建pvc-1和nginx-1以及pvc-2和nginx-2。
3.2 filesystem
类型的NAS动态存储卷使用
注意: filesystem类型的NAS动态卷在删除时默认保留文件系统和挂载点, 若需要在释放pv资源的同时释放NAS文件系统和挂载点, 则需要同时设置StorageClass中的reclaimPolicy为Delete且deleteVolume的值为"true"
3.2.1 使用场景
在3.1中的subpath方式中
,你需要首先手动创建NAS文件系统和挂载点。 当你的Kubernetes应用需要动态创建和删除NAS文件系统和挂载点时, 可以使用filesystem
类型。 注意:使用filesystem类型NAS存储卷的Pod只能创建一个文件系统和一个挂载点, 多个Pod之间无法共享一个存储卷
3.2.2 RAM Policy设置和授予
filesystem
类型的NAS存储卷设计NAS文件系统和挂载点的动态创建与删除, 需要授予csi-nasprovisioner
相应的权限,RAM Policy的最小集合如下:
{
"Action": [
"nas:DescribeMountTargets",
"nas:CreateMountTarget",
"nas:DeleteFileSystem",
"nas:DeleteMountTarget",
"nas:CreateFileSystem"
],
"Resource": [
"*"
],
"Effect": "Allow"
}
2种方式授权:
- 编辑ACK集群的Master RAM角色中的自定义策略内容,添加以上nas相关的权限设置
- 创建子账号授权以上RAM Policy并生成AK,配置到StatefulSet csi-provisioner中csi-nasprovisioner的env变量中:
env:
- name: CSI_ENDPOINT
value: unix://socketDir/csi.sock
- name: ACCESS_KEY_ID
value: ""
- name: ACCESS_KEY_SECRET
value: ""
3.2.3 创建StorageClass
编辑storageclass.yaml
文件, 详细参数说明见:https://github.com/kubernetes-sigs/alibaba-cloud-csi-driver/blob/master/docs/nas-dynamic.md
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
name: alicloud-nas-fs
mountOptions:
- nolock,tcp,noresvport
- vers=3
parameters:
volumeAs: filesystem
vpcId: "vpc-xxxxxxxxxxxx"
vSwitchId: "vsw-xxxxxxxxx"
deleteVolume: "false"
provisioner: nasplugin.csi.alibabacloud.com
reclaimPolicy: Retain
运行以下命令创建StorageClass alicloud-nas-subpath
$ kubectl create -f storageclass.yaml
3.2.4 创建PV/PVC和Pod挂载NAS存储卷
pvc.yaml
nginx.yaml
文件内容如下:pvc.yaml
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
name: nas-csi-pvc-fs
spec:
accessModes:
- ReadWriteMany
storageClassName: alicloud-nas-fs
resources:
requests:
storage: 20Gi
nginx.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
name: deployment-nas-fs
labels:
app: nginx
spec:
selector:
matchLabels:
app: nginx
template:
metadata:
labels:
app: nginx
spec:
containers:
- name: nginx
image: nginx:1.7.9
ports:
- containerPort: 80
volumeMounts:
- name: nas-pvc
mountPath: "/data"
volumes:
- name: nas-pvc
persistentVolumeClaim:
claimName: nas-csi-pvc-fs
创建pvc和deployment:
$ kubectl create -f pvc.yaml -f nginx.yaml
在这种场景下, csi会在pvc创建时动态新建NAS文件系统和挂载点, pvc删除时动态删除挂载点和文件系统。
4. 其他
更多示例请参考: kubernetes-sigs/alibaba-cloud-csi-driver/examples/nas/dynamic