k8s存储机制概述

本文涉及的产品
容器服务 Serverless 版 ACK Serverless,317元额度 多规格
容器服务 Serverless 版 ACK Serverless,952元额度 多规格
简介: k8s存储机制概述

01 引言

声明:本文为《Kubernetes权威指南:从Docker到Kubernetes实践全接触(第5版)》的读书笔记

容器内部存储的生命周期是短暂的,会随着容器环境的销毁而销毁,具有不稳定性。如果多个容器希望共享同一份存储,则仅仅依赖容器本身是很难实现的。在Kubernetes系统中,将对容器应用所需的存储资源抽象为存储卷 (Volume)概念 来解决这些问题。

Volume是与Pod绑定的(独立于容器)与Pod具有相同生命周期的资源对象,我们可以将Volume的内容理解为目录或文件

02 volume分类

Kubernetes目前支持的Volume类型包括Kubernetes内部资源对象类型开源共享存储类型存储厂商提供的硬件存储设备公有云提供的存储等。

将Kubernetes特定类型的资源对象映射为目录或文件,包括以下类型的资源对象:

类型 描述
ConfigMap 应用配置
Secret 加密数据
DownwardAPI Pod或Container的元数据信息
ServiceAccountToken Service Account中的token数据
Projected Volume 一种特殊的存储卷类型,用于将一个或多个上述资源对象一次性挂载到容器内的同一个目录下

Kubernetes管理的宿主机本地存储类型如下

类型 描述
EmptyDir 临时存储
HostPath 宿主机目录

持久化存储(PV))和网络共享存储类型如下

类型 描述
CephFS 一种开源共享存储系统
Cinder 一种开源共享存储系统
CSI 容器存储接口(由存储提供商提供驱动程序和存储管理程序)
FC(Fibre Channel) 光纤存储设备
FlexVolume 一种基于插件式驱动的存储
Flocker 一种开源共享存储系统
Glusterfs 一种开源共享存储系统
iSCSI iSCSI存储设备
Local 本地持久化存储
NFS 网络文件系统
PersistentVolumeClaim 简称PVC,持久化存储的申请空间
Portworx Volumes Portworx提供的存储服务
Quobyte Volumes Quobyte提供的存储服务
RBD(Ceph Block Device) Ceph块存储

存储厂商提供的存储卷类型如下

类型 描述
ScalelO Volumes DellEMC的存储设备
StorageOS StorageOS提供的存储服务
VsphereVolume VMWare提供的存储系统

公有云提供的存储卷类型如下

类型 描述
AWSElasticBlockStore AWS公有云提供的Elastic Block Store
AzureDisk Azure公有云提供的Disk
AzureFile Azure公有云提供的File
GCEPersistentDisk GCE公有云提供的Persistent Disk

03 将资源对象映射为存储卷

Kubernetes中有一些资源对象可以以存储卷的形式挂载为容器内的目录或文件,目前包括ConfigMap、Secret、Downward API、ServiceAccountToken、Projected Volume。

3.1 ConfigMap

ConfigMap主要保存应用程序所需的配置文件,并且通过Volume形式挂载到容器内的文件系统中,供容器内的应用程序读取。

之前在pod篇有写过,可以参考: 《k8s教程(pod篇)-配置管理》

3.2 Secret

假设在Kubernetes中已经存在如下Secret资源:

apiVersion: v1
kind: Secret
metadata:
    name: mysecret
type: Opaque
data:
    password: dmFsdWUtMgOK 
    username: dmFsdWUtMOOK

ConfigMap的用法类似,在PodYAML配置中可以将Secret设置为一个
Volume,然后在容器内通过volumeMountsSecret类型的Volume挂载到/etc/foo目录下:

apiVersion: v1
kind: Pod
metadata:
    name: mypod
spec:
    containers:
    - name: mycontainer
      image: redis
      volumeMounts:
      - name: foo
        mountPath: "/etc/foo"
    volumes:
    - name: foo
    secret:
        secretName: mysecret

3.3 Downward API

通过Downward API可以将PodContainer的某些元数据信息(例如Pod名称、Pod IPNode IPLabelAnnotation、容器资源限制等)以文件的形式挂载到容器内,供容器内的应用使用。

之前在pod篇有写过,可以参考: 《k8s教程(pod篇)-容器获取pod信息(Downward API)》

3.4 Projected Volume

Projected Volume是一种特殊的存储卷类型,用于将一个或多个上述资源对象(ConfigMap、Secret、Downward API)一次性挂载到容器内的同一个目录

下面是一个使用Projected Volume挂载ConfigMapSecretDownward API 共3种资源的示例:

apiVersion: v1
kind: Pod
metadata:
    name: volume-test
spec:
    containers:
    - name: container-test
      image: busybox
      volumeMounts:
      - name: all-in-one
        mountPath: "/projected-volume" 
        readonly: true
    volumes:
    - name: all-in-one
      projected:
        sources:
        - secret:
          name: mysecret
          items: 
          - key: username
            path: my-group/my-username
        - downwardAPI:
          items:  
          - path: "labels"
            fieldRef:
            fieldPath: metadata.labels 
          - path: "cpu_limit" 
            resourceFieldRef:
              containerName: container-test 
               resource: limits.cpu
        - configMap:
          name: myconfigmap
          items: 
          - key: config
            path: my-group/my-config

此外,Kubernetes从1.l1版本开始引入对ServiceAccountToken的挂载支持, 在1.l2版本时达到Beta阶段。ServiceAccountToken通常用于容器内应用访问API Server鉴权的场景中,例子如下:

apiVersion: v1
kind: Pod
metadata:
    name: sa-token-test
spec:
    containers:
    - name: container-test
      image: busybox
      volumeMounts: 
      - name: token-vol
        mountPath: "/service-account" 
        readOnly: true
    volumes: 
    - name: token-vol
      projected:
        sources:
        - serviceAccountToken:
            audience: api # 预期受众的名称,Token的接收者必须使用其中的audience标识符来标识自己,否则拒绝该token
            expirationSeconds: 3600  # Service Account Token国企时间,默认1h
            path: token # 挂载目录下的相对路径

04 Node本地存储卷

Kubernetes管理的Node本地存储卷(Volume)的类型如下:

类型 描述
EmptyDir 与Pod同生命周期的Nodell临时存储
HostPath Node目录
Local 基于持久卷(PV))管理的Node目录

4.1 EmptyDir

这种类型的Volume将在Pod被调度到Node时进行创建,在初始状态下目录中是空的,所以命名为“空目录”(Empty Directory)。它与Pod具有相同的生命周期,当Pod被销毁时,Node上相应的目录也会被删除。同一个Pod中的多个容器都可以挂载这种Volume

由于EmptyDir类型的存储卷的临时性特点,它通常可以用于以下应用场景中:

  • 基于磁盘进行合并排序操作时需要的暂存空间;
  • 长时间计算任务的中间检查点文件;
  • 为某个Web服务提供的临时网站内容文件。

在默认情况下,kubelet会在Node的工作目录下为Pod创建EmptyDir目录,这
个目录的存储介质可能是本地磁盘、SSD磁盘或者网络存储设备,取决于环境的
配置。

另外, EmptyDir可以通过 medium字段设置存储介质为“ Memory”,表示使用基于内存的文件系统( tmpfsRAM-backed filesystem)。虽然 tmpfs的读写速度非常快,但与磁盘中的目录不同,在主机重启之后, tmpfs的内容就会被清空。此外,写入 tmpfs的数据将被统计为容器的内存使用量,受到容器级别内存资源上限 ( Memory Resource Limit)的限制。

下面是使用EmptyDir类型的存储卷的Pod的YAML配置示例,该类型的存储卷的参数只有一对花括号“{}”:

apiVersion: v1
kind: Pod
metadata:
    name: test-pod
spec:
    containers:
    - image: busybox
      name: test-container
      volumeMounts:
      - mountPath: /cache
        name: cache-volume
    volumes: 
    - name: cache-volume 
      emptyDir: {}

4.2 HostPath

HostPath类型的存储卷用于将Node文件系统的目录或文件挂载到容器内部使用

对于大多数容器应用来说,都不需要使用宿主机的文件系统,适合使用HostPath存储卷的一些应用场景如下:

  • 容器应用的关键数据需要被持久化到宿主机上;
  • 需要使用Docker中的某些内部数据,可以将主机的/var/ib/docker目录挂载到容器内;
  • 监控系统,例如cAdvisor需要采集宿主机/sys目录下的内容;
  • Pod的启动依赖于宿主机上的某个目录或文件就绪的场景。

HostPath存储卷的主要配置参数为path,设置为宿主机的目录或文件路径; 还可以设置一个可选的参数type,表示宿主机路径的类型,目前支持的type配置参数和校验规则如下所示:

type配置参数 校验规则
系统默认值,为向后兼容的设置,意为系统在挂载path时不做任何校验
DirectoryOrCreate path指定的路径必须是目录,如果不存在,则系统将自动创建该目录,将权限设置为0755,与kubelet具有相同的owner和group
Directory path指定的目录必须存在,否则挂载失败
FileOrCreate path指定的路径必须是文件,如果不存在,则系统将自动创建该文件,将权限设置为0644,与kubelet具有相同的owner和group
File path指定的文件必须存在,否则挂载失败
Socket path指定的UNIX socket必须存在,否则挂载失败
CharDevice path指定的字符设备(character device)必须存在,否则挂载失败
BlockDevice path指定的块设备(block device)必须存在,否则挂载失败

下面是使用HostPath类型的存储卷的PodYAML配置示例,其中将宿主机的/data目录挂载为容器内的/host-data目录:

apiVersion: v1
kind: Pod
metadata:
    name: test-pod
spec:
    containers:
    - image: busybox
      name: test-container
      volumeMounts:
      - mountPath: /host-data
        name: test-volume
    volumes: 
    - name: test-volume
      hostPath:
        path: /data #宿主机目录
        type: Directory #可选,"Directory"表示该目录必须存在

由于HostPath使用的是宿主机的文件系统,所以在使用时有以下注意事项:

  • 对于具有相同HostPath设置的多个Pod(例如通过podTemplate创建的)来说,可能会被Master调度到多个Node上运行,但如果多个NodeHostPath中的文件内容(例如是配置文件)不同,则各Pod应用的运行可能出现不同的结果;
  • 如果管理员设置了基于存储资源情况的调度策略,则HostPath目录下的磁盘空间将无法计入Node的可用资源范围内,可能出现与预期不同的调度结果;
  • 如果是之前不存在的路径,则由kubelet自动创建出来的目录或文件的 owner将是root,这意味着如果容器内的运行用户(User)不是root,则将无法对该目录进行写操作,除非将容器设置为特权模式(Privileged),或者由管理员修改HostPath的权限以使得非root用户可写。
  • HostPath设置的宿主机目录或文件不会随着Pod的销毁而删除,在Pod不再存在之后,需要由管理员手工删除。

05 文末

由于篇幅有限,关于持久卷的内容,后续再出相关的文章,谢谢大家的阅读,希望能帮助到大家,本文完!

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
目录
相关文章
|
3月前
|
存储 Kubernetes 容器
Kubernetes 存储选项:持久化卷与存储类
【8月更文第29天】随着容器化的普及,越来越多的应用程序需要持久化数据以保持状态信息。Kubernetes 提供了一套完整的解决方案来管理和配置持久化存储,包括持久卷 (Persistent Volume, PV)、持久卷声明 (Persistent Volume Claim, PVC) 和存储类 (StorageClass)。本文将详细介绍这些概念,并通过实际示例来演示如何在 Kubernetes 中配置存储。
286 1
|
3月前
|
Kubernetes Cloud Native 持续交付
Kubernetes全面概述
Kubernetes(K8s)是2014年由Google开源的容器编排平台,基于其内部大规模容器管理系统Borg打造。它简化了容器化应用的部署、扩展与管理,具备高度可移植性、可扩展性及自动化特性。Kubernetes的核心组件包括Master节点与Node节点,涵盖kube-apiserver、etcd等关键子系统。其应用场景广泛,适用于微服务架构、大数据处理、DevOps及云原生应用等领域,并支持多种部署方式,如Minikube、Kubeadm等。
76 4
|
3月前
|
存储 Kubernetes 容器
k8s创建NFS动态存储
k8s创建NFS动态存储
|
4月前
|
存储 Kubernetes 应用服务中间件
k8s使用rbd作为存储
k8s使用rbd作为存储
61 6
|
3月前
|
存储 Kubernetes 数据安全/隐私保护
在K8S中,如果后端nfs存储的ip发生变化如何解决?
在K8S中,如果后端nfs存储的ip发生变化如何解决?
|
3月前
|
存储 缓存 Kubernetes
在K8S中,业务Pod数据如何存储?
在K8S中,业务Pod数据如何存储?
|
3月前
|
存储 JSON Kubernetes
在K8S中,存储敏感信息方式有哪些?
在K8S中,存储敏感信息方式有哪些?
|
3月前
|
存储 Kubernetes 容器
在k8S中,所支持的存储供应模式有哪些?
在k8S中,所支持的存储供应模式有哪些?
|
3月前
|
存储 Kubernetes 调度
在k8S中,共享存储的作用是什么?
在k8S中,共享存储的作用是什么?
|
3月前
|
存储 Kubernetes 测试技术
在k8s中,有哪些存储?
在k8s中,有哪些存储?