CentOS7.7.1908下部署Ceph分布式存储(上)

简介: CentOS7.7.1908下部署Ceph分布式存储(上)

640.png

640.jpg


如上拓扑环境如下:

10.20.10.215 ceph_admin ceph_admin.walkingcloud.cn 
10.20.10.216 node1 node1.walkingcloud.cn
10.20.10.217 node2 node2.walkingcloud.cn
10.20.10.218 node3 node3.walkingcloud.cn
三个node节点均配置了一块数据盘/dev/sdb 

三个node节点均配置了一块数据盘/dev/sdb


1、 nmtui修改四台主机的主机名


以第一台为例ceph_admin.walkingcloud.cn,其它主机依次修改

640.png

640.png
vi /etc/hosts
添加如下行到/etc/hosts
10.20.10.215 ceph_admin ceph_admin.walkingcloud.cn 
10.20.10.216 node1 node1.walkingcloud.cn
10.20.10.217 node2 node2.walkingcloud.cn
10.20.10.218 node3 node3.walkingcloud.cn


640.png

2、每台主机配置yum Base源 EPEL源以及ceph源

mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
yum makecache
vi /etc/yum.repos.d/ceph.repo
[ceph]
name=ceph
baseurl=http://mirrors.aliyun.com/ceph/rpm-nautilus/el7/x86_64/
gpgcheck=0
priority =1
[ceph-noarch]
name=cephnoarch
baseurl=http://mirrors.aliyun.com/ceph/rpm-nautilus/el7/noarch/
gpgcheck=0
priority =1
[ceph-source]
name=Ceph source packages
baseurl=http://mirrors.aliyun.com/ceph/rpm-nautilus/el7/SRPMS
gpgcheck=0
priority=1

640.png

3、创建部署 CEPH 的用户


ceph-deploy 工具必须以普通用户登录 Ceph 节点,且此用户拥有无密码使用 sudo 的权限,因为它需要在安装软件及配置文件的过程中,不必输入密码。

较新版的 ceph-deploy 支持用 --username 选项提供可无密码使用 sudo 的用户名(包括 root ,虽然不建议这样做)。

使用 ceph-deploy --username {username} 命令时,指定的用户必须能够通过无密码 SSH 连接到 Ceph 节点,因为 ceph-deploy 中途不会提示输入密码

useradd -d /home/admin -m adminecho "Admin@123"|passwd --stdin adminecho -e 'Defaults:admin !requiretty\nadmin ALL = (root) NOPASSWD:ALL' | sudo tee /etc/sudoers.d/admin chmod 0440 /etc/sudoers.d/admin


4、用Ceph用户登录配置SSH免密登录

su - admin
ssh-keygen
ssh-copy-id admin@node1
ssh-copy-id admin@node2
ssh-copy-id admin@node3

640.png

为了简单起见,每台都关闭了firewalld防火墙

systemctl stop firewalld
systemctl disable firewalld

640.png

验证ssh免密登录是否OK

640.png


5、每台机器均关闭selinux


setenforce 0 sed -i '/SELINUX/s/enforcing/disabled/' /etc/selinux/config

640.png

6、管理节点上安装ceph-deploy


su - adminsudo yum install ceph-deploy -y

640.png


7、创建集群


mkdir cluster
cd cluster/
ceph-deploy new ceph_admin

640.png

如下图所示,执行时报错

ceph-deploy new ceph_admin     
Traceback (most recent call last):
  File "/bin/ceph-deploy", line 18, in <module>
    from ceph_deploy.cli import main
  File "/usr/lib/python2.7/site-packages/ceph_deploy/cli.py", line 1, in <module>
    import pkg_resources
ImportError: No module named pkg_resources

解决办法:sudo yum install python-setuptools -y

640.png

修改vi ceph.conf

640.png


public network = 10.20.10.0/23osd pool default size = 3

8、ceph-deploy在各节点安装 Ceph


ceph-deploy install ceph_admin node1 node2 node3

640.jpg

9、初始化monitor监控节点 

ceph-deploy mon create-initial

640.png

640.png


10、用 ceph-deploy 把配置文件和 admin 密钥拷贝到管理节点和 Ceph 节点

这样你每次执行 Ceph 命令行时就无需指定 monitor 地址和 ceph.client.admin.keyring 了 ceph-deploy admin ceph_admin node1 node2 node3

640.png

11、检查节点的磁盘

ceph-deploy disk list node1 node2 node3

640.png


12、用 osd create 命令一次完成准备 OSD 、部署到 OSD 节点、并激活它

ceph-deploy osd create --data /dev/sdb node1
ceph-deploy osd create --data /dev/sdb node2
ceph-deploy osd create --data /dev/sdb node3

640.jpg

13、查看集群健康状态

sudo chmod +r /etc/ceph/ceph.client.admin.keyring

确保你对 ceph.client.admin.keyring 有正确的操作权限ceph healthceph -s

640.png


14、未完待续

相关文章
|
10月前
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
3294 57
|
Java 关系型数据库 MySQL
新一代 Cron-Job分布式任务调度平台 部署指南
简单易用、超低延迟,支持用户权限管理、多语言客户端和多租户接入的分布式任务调度平台。 支持任何Cron表达式的任务调度,支持常用的分片和随机策略;支持失败丢弃、失败重试的失败策略;支持动态任务参数。
421 103
|
10月前
|
Linux 应用服务中间件 nginx
在CentOS上部署Minikube教程
至此,您已成功在CentOS上部署并使用Minikube。您可以自由探索Kubernetes的世界,熟练配置和管理Kubernetes集群。
895 20
|
11月前
|
SQL 数据可视化 网络安全
YashanDB分布式可视化部署
本文介绍YashanDB的分布式部署流程,涵盖服务端安装、数据库基本信息与服务器配置、节点信息设置、建库参数调整、环境变量配置及安装结果检查等步骤。通过可视化Web界面操作,详细说明了各环节配置方法和注意事项,确保用户顺利完成数据库集群的搭建与初始化设置。适用于需要分布式数据库部署的场景,提供全面的操作指导。
YashanDB分布式可视化部署
|
运维 Kubernetes Java
Koupleless 助力「人力家」实现分布式研发集中式部署,又快又省!
本文由仁励家网络科技(杭州)有限公司架构师赵云兴、葛志刚撰写,探讨了公司在优化HR SaaS解决方案时遇到的系统资源浪费和运维成本高的问题。通过引入Koupleless框架,成功将模块体积从500M缩减至5M以下,部署时间从6分钟缩短至3分钟,并大幅节省服务器资源。文章详细介绍了Koupleless的部署方案及优化措施,感谢Koupleless团队的专业支持,使人力家实现了多应用合并部署,降低了运维成本。
Koupleless 助力「人力家」实现分布式研发集中式部署,又快又省!
|
运维 Kubernetes Java
Koupleless 助力「人力家」实现分布式研发集中式部署,又快又省!
通过引入Koupleless框架,解决了多应用部署中资源浪费和运维成本高的问题,实现了模块瘦身、快速部署及流量控制优化,大幅降低了服务器资源占用和发布耗时,提升了系统稳定性和运维效率。最终,人力家成功实现了多应用的轻量集中部署,显著减少了运维成本。
 Koupleless 助力「人力家」实现分布式研发集中式部署,又快又省!
|
人工智能 Kubernetes 异构计算
大道至简-基于ACK的Deepseek满血版分布式推理部署实战
大道至简-基于ACK的Deepseek满血版分布式推理部署实战
714 5
|
7月前
|
存储 Ubuntu Linux
VMware-安装CentOS系统教程及安装包
虚拟机相当于是一个独立于你电脑的环境,在这个环境上面,你可以安装Linux、Windows、Ubuntu等各个类型各个版本的系统,在这个系统里面你不用担心有病读等,不用担心文件误删导致系统崩溃。 虚拟机也和正常的电脑系统是一样的,也可以开关机,不用的时候,你关机就可以了,也不会占用你的系统资源,使用起来还是比较方便 这里也有已经做好的CentOS 7系统,下载下来解压后直接用VMware打开就可以使用
1287 69
|
6月前
|
存储 分布式计算 Linux
安装篇--CentOS 7 虚拟机安装
VMware 装 CentOS 7 不知道从哪下手?这篇超详细图文教程手把手教你在 VMware Workstation 中完成 CentOS 7 桌面系统的完整安装流程。从 ISO 镜像下载、虚拟机配置,到安装图形界面、设置用户密码,每一步都有截图讲解,适合零基础新手快速上手。装好之后无论你是要搭 Hadoop 集群,还是练 Linux ,这个环境都够你折腾一整天!
2427 3
|
7月前
|
Ubuntu Linux 索引
Centos 7、Debian及Ubuntu系统中安装和验证tree命令的指南。
通过上述步骤,我们可以在CentOS 7、Debian和Ubuntu系统中安装并验证 `tree`命令。在命令行界面中执行安装命令,然后通过版本检查确认安装成功。这保证了在多个平台上 `tree`命令的一致性和可用性,使得用户无论在哪种Linux发行版上都能使用此工具浏览目录结构。
586 78