Rook:基于Ceph的Kubernetes存储解决方案

简介: Rook是一款运行在Kubernetes集群中的存储服务编排工具,在0.8版本中,Rook已经变成Beta发行版,如果还没有尝试过Rook,可以现在尝鲜。Rook是什么,为什么很重要?Ceph运行在Kubernetes集群中很久了,为什么要有这么大的变动?如果以前玩过Ceph集群,肯定深知维护Ceph集群的复杂性,Rook就是为此而生,使用Kubernetes分布式平台简化大量针对Ceph存储的操作和维护工作。
Rook是一款运行在Kubernetes集群中的存储服务编排工具,在 0.8版本 中,Rook已经变成Beta发行版,如果还没有尝试过Rook,可以现在 尝鲜

Rook是什么,为什么很重要?Ceph运行在Kubernetes集群中很久了,为什么要有这么大的变动?如果以前玩过Ceph集群,肯定深知维护Ceph集群的复杂性,Rook就是为此而生,使用Kubernetes分布式平台简化大量针对Ceph存储的操作和维护工作。

Rook通过一个操作器(operator)完成后续操作,只需要定义需要的状态就可以了。Rook通过操作器监控状态需求变化,并将配置文件分配到集群上生效。操作器关注包括各种集群运行和启停所需的状态信息。本文将详细讨论这些细节。

Mons

Ceph集群中最重要的信息是Mons的quorum,一般集群中有有三个Mons,保持高可用以及quorum可用性以防数据不可用,当创建集群是,Rook将会:
  • 启动特定节点上的Mons,确保他们在quorum中
  • 定期确定Mons状态,确保他们在quorum中
  • 如果某个Mon出现故障,并且没有重新启动,操作器会往quorum中添加一个新的mon,并将失效的移除quorum
  • 更新Ceph客户端和Daemons的IP地址

Mgr

Mgr是一个无状态服务,提供集群信息。除了启动核心功能外,Rook还参与配置其它两个Mgr插件:
  • 搜集Prometheus状态
  • 启动Ceph面板,并启动服务点

OSDs

集群中最具挑战的是OSD部分,存储部分的核心部件。大规模集群会在上线前大量使用OSD。Rook会根据如何使用,以两种模式配置他们,可以参考更多OSD 专题

完全自动化

最简单使用方式就是“使用所有资源”模式。意味着操作者自动在所有节点上启动OSD设备,Rook会用如下标准监控并发现可用设备:
  • 设备没有分区
  • 设备没有格式化的文件系统

Rook不会使用不满足以上标准的设备。操作完毕后(一般要几分钟),就拥有一套OSD配置完毕的存储集群。


自声明模式

第二种模式给用户更大的选择控制权限,用户可以指定哪些节点或者设备会被使用。有几个层级方式进行配置:
  • 节点:
    • 声明哪些节点上会启动OSD
    • 采用“标签”方式用Kubernetes来声明节点
  • 设备:
    • 声明启动OSD的设备名
    • 声明设备过滤规则,并在其上启动OSD
    • 采用SSD或者NVME设备创建bluestore的metadata分区,bluestore数据分区分布在各种设备上

这种模式很灵活,可以选择需要启动OSD的设备。

客户访问

Kubernetes中,需要存储的客户端都会使用PV并挂载到Pod上,Rook提供FlexVolume插件,此插件可以使访问Ceph集群更加简便,只需要声明存储类相关的池,然后在Pod上声明指向存储类的PVC, 本例 将解释在Pod中挂载RBD镜像的具体步骤。

RGW

除了基础的RADOS集群,Rook还会帮助管理 对象空间 。如果声明需要一个对象存储空间,Rook将:
  • 为对象空间创建metadata和数据池
  • 启动RGW Daemon,如果需要还可以运行高可用实例
  • 通过RGW Daemon创建Kubernetes设备提供负载均衡。对象存储则在存储内部提供

MDS

最后,但不仅限如此,rook还可以配置CephFS提供共享存储空间服务。当生命在集群中需要文件系统时,Rook会:
  • 为CephFS创建metadata和数据池
  • 创建文件系统
  • 使用MDS启动期望数量的实例
文件系统可以被集群中Pod使用,通过相关或者独立路径为每个Pod提供访问方式。参看 如下示例

Ceph工具

即使实现了自动化,仍然需要使用Ceph工具维护正常运转。但是随着越来越自动化,工具的依赖度会慢慢降低。同时,如果需要运行Ceph工具,要么启动一个工具箱,或者通过连接到Mon Daemon容器执行这些工具。

下一步工作

Rook运行前提是有一套存储需要配置的Kubernetes集群。Rook的目标就是让配置存储的工作越来越简单,当然目前我们还只是处在这一工作的开始。

我们正在积极开发Rook项目,期待有更多功能出现。我们也希望更多专家出现在社区,如果有问题,可以通过Rook Slack和我们沟通。

本文转自DockOne-Rook:基于Ceph的Kubernetes存储解决方案

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
相关文章
|
3月前
|
Kubernetes 容器
K8S的Service的LoadBanlance之Metallb解决方案
本文介绍了如何在Kubernetes中使用MetalLB来实现Service的LoadBalancer功能,包括MetalLB的部署、配置、以及通过创建地址池和部署服务来测试MetalLB的过程。
160 1
K8S的Service的LoadBanlance之Metallb解决方案
|
4月前
|
存储 Kubernetes 容器
Kubernetes 存储选项:持久化卷与存储类
【8月更文第29天】随着容器化的普及,越来越多的应用程序需要持久化数据以保持状态信息。Kubernetes 提供了一套完整的解决方案来管理和配置持久化存储,包括持久卷 (Persistent Volume, PV)、持久卷声明 (Persistent Volume Claim, PVC) 和存储类 (StorageClass)。本文将详细介绍这些概念,并通过实际示例来演示如何在 Kubernetes 中配置存储。
376 1
|
3月前
|
Kubernetes 网络虚拟化 Docker
K8S镜像下载报错解决方案(使用阿里云镜像去下载kubeadm需要的镜像文件)
文章提供了一个解决方案,用于在无法直接访问Google镜像仓库的情况下,通过使用阿里云镜像来下载kubeadm所需的Kubernetes镜像。
414 4
K8S镜像下载报错解决方案(使用阿里云镜像去下载kubeadm需要的镜像文件)
|
3月前
|
存储 Kubernetes 测试技术
k8s使用pvc,pv,sc关联ceph集群
文章介绍了如何在Kubernetes中使用PersistentVolumeClaim (PVC)、PersistentVolume (PV) 和StorageClass (SC) 来关联Ceph集群,包括创建Ceph镜像、配置访问密钥、删除默认存储类、编写和应用资源清单、创建资源以及进行访问测试的步骤。同时,还提供了如何使用RBD动态存储类来关联Ceph集群的指南。
191 7
|
3月前
|
存储 Kubernetes 数据安全/隐私保护
k8s对接ceph集群的分布式文件系统CephFS
文章介绍了如何在Kubernetes集群中使用CephFS作为持久化存储,包括通过secretFile和secretRef两种方式进行认证和配置。
115 5
|
4月前
|
存储 Kubernetes 容器
k8s创建NFS动态存储
k8s创建NFS动态存储
|
4月前
|
Kubernetes 监控 容灾
ACK One舰队管理:企业级多集群管理解决方案
ACK One舰队管理是阿里云为您提供的强大的多集群管理方案,功能众多:GitOps应用分发、多集群网关、多集群Service、全局可观测、服务网格、统一权限管理等,方便您轻松应对混合云、多集群、容灾等场景的问题,简化多集群管理。
|
5月前
|
人工智能 运维 安全
阿里云容器服务ACK:高效管理云上应用的容器化解决方案
阿里云容器服务ACK(Alibaba Cloud Container Service for Kubernetes)为开发者提供了一套全面的容器化管理解决方案,旨在简化云上应用的部署、运维和管理。本文将深入探讨ACK的功能、优势及应用场景,为开发者展现容器化技术在云环境下的强大能力。
371 0
|
4月前
|
存储 Kubernetes 数据安全/隐私保护
在K8S中,如果后端nfs存储的ip发生变化如何解决?
在K8S中,如果后端nfs存储的ip发生变化如何解决?
|
4月前
|
存储 缓存 Kubernetes
在K8S中,业务Pod数据如何存储?
在K8S中,业务Pod数据如何存储?