ior和mdtest测试工具安装

测试工具通过网络下载如果较慢，也可以直接访问云盘进行下载

链接：https://pan.baidu.com/s/1lrVUeOxDlXpIHR7OBvpxJQ

提取码：h63p

1、安装依赖程序

[root@test1 ~]# yum -y install gcc gcc-c++ gcc-gfortran

2、创建软件包目录

[root@test1 ~]# mkdir tools

3、安装openmpi（除了openmpi外，还可以使用mpich，不过使用上跟openmpi会有所差异）

[root@test1 ~]# cd tools

[root@test1 tools]# curl -O https://download.open-mpi.org/release/open-mpi/v1.10/openmpi-1.10.7.tar.gz

[root@test1 openmpi-1.10.7]# ./configure --prefix=/usr/local/openmpi/

[root@test1 openmpi-1.10.7]# make

[root@test1 openmpi-1.10.7]# make install

4、添加环境变量

在.bashrc文件中添加以下三行内容

[root@test1 ~]# vim /root/.bashrc

export PATH=$PATH:/usr/local/openmpi/bin/:/usr/local/ior/bin/

export LD_LIBRARY_PATH=/usr/local/openmpi/lib:${LD_LIBRARY_PATH}

export MPI_CC=mpicc

[root@test1 ~]# source /root/.bashrc

5、安装IOR

[root@test1 ~]# cd tools/

[root@test1 tools]# yum -y install git automake

[root@test1 tools]# git clone https://github.com/chaos/ior.git

[root@test1 tools]# cd ior

[root@test1 ior]# ./bootstrap

[root@test1 ior]# ./configure --prefix=/usr/local/ior/

[root@test1 ior]# make

[root@test1 ior]# make install

6、安装mdtest

[root@test1 ~]# cd tools/

[root@test1 tools]# mkdir mdtest

[root@test1 tools]# cd mdtest

[root@test1 mdtest]# wget https://nchc.dl.sourceforge.net/project/mdtest/mdtest%20latest/mdtest-1.9.3/mdtest-1.9.3.tgz

[root@test1 mdtest]# tar xf mdtest-1.9.3.tgz

[root@test1 mdtest]# make

使用IOR和MDtest测试cephfs

环境

服务端和客户端组件的的安装这里不再赘述。服务端的配置可以参考之前的文章，通过ceph-ansible快速完成部署；客户端的配置可以参考之前的IOR和Mdtest安装文档进行配置。下面说明一下客户端的部署和配置。

挂载CephFS

以下操作需要在所有的客户端节点完成

1、在客户端节点安装ceph-fuse

[root@test1 ~]# yum -y install ceph-fuse

2、创建ceph文件保存目录

[root@test1 ~]# mkdir /etc/ceph

3、拷贝服务端的ceph的keyring文件

[root@test1 ~]# scp 10.0.98.21:/etc/ceph/* /etc/ceph/

4、创建挂载目录

[root@test1 ~]# mkdir /mnt/fs{1,2,3,4}

5、挂载cephfs

[root@test1 ~]# ceph-fuse -m 10.0.98.21:6789/ /mnt/fs1/

[root@test1 ~]# ceph-fuse -m 10.0.98.21:6789/ /mnt/fs2/

[root@test1 ~]# ceph-fuse -m 10.0.98.21:6789/ /mnt/fs3/

[root@test1 ~]# ceph-fuse -m 10.0.98.21:6789/ /mnt/fs4/

6、在挂载目录下创建测试目录

[root@test1 ~]# mkdir /mnt/fs{1,2,3,4}/iortest

如果有部署ansible服务端的话，可以执行以下命令通过ansible快速完成5个client的配置。如果对ansible的使用不是太熟练，那就老老实实的用上面的步骤在所有的client上手动完成操作吧。

1、安装ceph-fuse

ansible clients -m yum -a ‘name=ceph-fuse state=installed’

2、创建ceph文件目录

ansible clients -m file -a ‘name=/etc/ceph state=directory’

3、拷贝ceph文件

ansible clients -m copy -a ‘src=/etc/ceph/ceph.client.admin.keyring dest=/etc/ceph/ceph.client.admin.keyring’

4、创建挂载目录

ansible clients -m shell -a ‘mkdir -p /mnt/fs{1,2,3,4}’

5、挂载cephfs

ansible clients -m shell -a ‘ceph-fuse -m MDSIP:6789/ /mnt/fs1’

ansible clients -m shell -a ‘ceph-fuse -m MDSIP:6789/ /mnt/fs2’

ansible clients -m shell -a ‘ceph-fuse -m MDSIP:6789/ /mnt/fs3’

ansible clients -m shell -a ‘ceph-fuse -m MDSIP:6789/ /mnt/fs4’

6、在挂载目录下创建测试目录

ansible clients -m shell -a ‘mkdir /mnt/fs{1,2,3,4}/iortest’

创建测试脚本

ior的测试通过scripts完成，以下是几个测试脚本示例，实际测试过程中可以根据测试环境进行修改

1、单个客户端单个进程

[root@test1 ~]# cat test/iorconf-11

===============> start script <===============

IOR START

  api=POSIX

  hintsFileName=hintsFile

  testFile=/mnt/fs1/iortest/f11-1

  repetitions=1

  readFile=1

  writeFile=1

  filePerProc=1

  segmentCount=1

  blockSize=128g

  transferSize=1024k

  collective=0

IOR STOP

===============> stop script <===============

2、单个客户端4个进程

[root@test1 ~]# cat test/iorconf-14

===============> start script <===============

IOR START

  api=POSIX

  hintsFileName=hintsFile

  testFile=/mnt/fs1/iortest/f14-1@/mnt/fs2/iortest/f14-2@/mnt/fs3/iortest/f14-3@/mnt/fs4/iortest/f14-4

  repetitions=1

  readFile=1

  writeFile=1

  filePerProc=1

  segmentCount=1

  blockSize=32g

  transferSize=1024k

  collective=0

IOR STOP

===============> stop script <===============

3、5个客户端4个进程

[root@test1 ~]# cat test/iorconf-54

===============> start script <===============

IOR START

  api=POSIX

  hintsFileName=hintsFile

  testFile=/mnt/fs1/iortest/f54-1@/mnt/fs2/iortest/f54-2@/mnt/fs3/iortest/f54-3@/mnt/fs4/iortest/f54-4@/mnt/fs1/iortest/f54-5@/mnt/fs2/iortest/f54-6@/mnt/fs3/iortest/f54-7@/mnt/fs4/iortest/f54-8@/mnt/fs1/iortest/f54-9@/mnt/fs2/iortest/f54-10@/mnt/fs3/iortest/f54-11@/mnt/fs4/iortest/f54-12@/mnt/fs1/iortest/f54-13@/mnt/fs2/iortest/f54-14@/mnt/fs3/iortest/f54-15@/mnt/fs4/iortest/f54-16@/mnt/fs1/iortest/f54-17@/mnt/fs2/iortest/f54-18@/mnt/fs3/iortest/f54-19@/mnt/fs4/iortest/f54-20

  repetitions=1

  readFile=1

  writeFile=1

  filePerProc=1

  segmentCount=1

  blockSize=32g

  transferSize=1024k

  collective=0

IOR STOP

===============> stop script <===============

测试命令

一、IOR测试

1、单个客户端单个进程

[root@test1 ~]# ior -f test/iorconf-11

2、单个客户端4个进程

[root@test1 ~]# mpirun --allow-run-as-root -np 4 ior -f test/iorconf-14

3、5个客户端4个进程

[root@test1 ~]# mpirun --allow-run-as-root --mca plm_rsh_no_tree_spawn 1 -npernode 4 -hostfile test/hosts ior -f test/iorconf-54

注：进行多个客户端测试时，需要在每个节点的对应目录下都上传测试脚本，测试命令中的hosts文件内容如下：

二、MDtest测试

MDtest参数说明

1、单个客户端单个进程

[root@test1 mdtest]# ./mdtest -F -L -z 4 -b 2 -I 1562 -u -d /mnt/fs1/mdtest/

2、单个客户端4个进程

mpirun --allow-run-as-root -np 4 ./mdtest -F -L -z 4 -b 2 -I 1562 -u -d /mnt/fs1/mdtest1/@/mnt/fs2/mdtest2@/mnt/fs3/mdtest3@/mnt/fs4/mdtest4

3、5个客户端4个进程

[root@test1 mdtest]# mpirun --allow-run-as-root --mca plm_rsh_no_tree_spawn 1 -npernode 4 -hostfile /root/test/hosts ./mdtest -F -L -z 4 -b 2 -I 1562 -u -d /mnt/fs1/mdtest1/@/mnt/fs2/mdtest2@/mnt/fs3/mdtest3@/mnt/fs4/mdtest4@/mnt/fs1/mdtest5/@/mnt/fs2/mdtest6@/mnt/fs3/mdtest7@/mnt/fs4/mdtest8@/mnt/fs1/mdtest9/@/mnt/fs2/mdtest10@/mnt/fs3/mdtest11@/mnt/fs4/mdtest12@/mnt/fs1/mdtest13/@/mnt/fs2/mdtest14@/mnt/fs3/mdtest15@/mnt/fs4/mdtest16@/mnt/fs1/mdtest17/@/mnt/fs2/mdtest18@/mnt/fs3/mdtest19@/mnt/fs4/mdtest20