drbd-优化性能

简介:

  测试吞吐量:

  测试系统吞吐量不是关键,最重要的是在使用DRBD性能前后的影响;该测试使用一个512M的块到drbd设备,进行对比测试

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
#!/bin/bash
resource=r0
test_device=`drbdadm sh-dev $resource`
test_ll_device=`drbdadm sh-ll-dev $resource`
drbdadm primary $resource
for  in  $( seq  5)
do
     dd  if = /dev/zero  of=$test_device bs=512M count=1 oflag=direct
done
drbdadm down $resource
for  in  $( seq  5)
do
     dd  if = /dev/zero  of=$test_ll_device bs=512M count=1 oflag=direct
done
drbdadm  up  $resource

 注意:

 1、dd 要使用关键字 oflag=direct 即写文件的时候忽略cache的影响;还有一个可选的关键字iflag=directio, 用来控制源文件和目标文件的读写方式为directio;

 2、以上脚本是需要两个角色是secondary的时候进行测试;

 3、测试完,在设定primary node 并挂载/dev/drbd0的时候会提示“mount: you must specify the filesystem type”,需要重新格式化/dev/drbd0

 优化部分:

 这个主要还是看硬件,磁盘的转速啊,网络的吞吐啊,

 调整参数建议:

 

1
2
3
4
5
net {
   max-buffers 8000;
   max-epoch-size 8000;
   sndbuf-size 0;
}

 max-buffers:是drbd数据写入到磁盘缓冲区的最大数,默认为2048,对于RAID阵列建议调整为8000;

 max-epoch-size 是两个写入瓶颈的最大允许写的数量,建议修改为8000;

 sndbuf-size: TCP发送缓冲区大小,设置为0,可以自动调节大小;    

 

1
2
3
4
syncer {
   rate 90M;
   al-extents 257;
}

 al-extents: 活动日志的大小,多少个x4M 的block;增大这个值的好处是:

 减少更新元数据到drbd 设备上的频率;

 降低同步数据时对IO流的中断数量;

 提高drbd设备相应速度;

 存在的风险是:当primary node crash 后,所有的活动数据(al-extentsx 4M block)需要重新同步,这个时间secondary node 是outdate状态,修复时间变长;

 sync rate 参数设置,只有 backgroud re-synchronization才会受限于该参数的设置;另一个同步进程只负责同步一些block的更改,不受限该参数;所以改值不要设置的太大,以防占用太多的带宽,导致IO出现同步异常;

   

1
2
3
4
disk {
   on-io-error   detach;
   disk-flushes no;
}

 磁盘考虑不少于6块15K的sas磁盘做raid10,或者直接使用ssd ,如果raid 卡有bbu电池保护的话,可以考虑进行禁止drbd的磁盘刷写;

 可以参考官网推荐,更改IO调度算法:

 echo deadline  >  /sys/block/<device>/queue/scheduler (sas盘可以用deadline;ssd的话可以考虑使用noop调度算法)






本文转自 位鹏飞 51CTO博客,原文链接:http://blog.51cto.com/weipengfei/1334520,如需转载请自行联系原作者

目录
相关文章
|
测试技术
fio磁盘压测工具
因为是虚拟机,所以对于性能很虚。借助fio进行测试
880 0
|
2月前
|
缓存 监控 固态存储
如何优化磁盘性能?
【10月更文挑战第4天】如何优化磁盘性能?
67 4
|
18天前
|
监控 网络协议 算法
Linux内核优化:提升系统性能与稳定性的策略####
本文深入探讨了Linux操作系统内核的优化策略,旨在通过一系列技术手段和最佳实践,显著提升系统的性能、响应速度及稳定性。文章首先概述了Linux内核的核心组件及其在系统中的作用,随后详细阐述了内存管理、进程调度、文件系统优化、网络栈调整及并发控制等关键领域的优化方法。通过实际案例分析,展示了这些优化措施如何有效减少延迟、提高吞吐量,并增强系统的整体健壮性。最终,文章强调了持续监控、定期更新及合理配置对于维持Linux系统长期高效运行的重要性。 ####
|
4月前
|
存储 缓存 算法
优化 ChunkServer 的存储性能
【8月更文第30天】在分布式文件系统中,ChunkServer 是负责存储数据块的关键组件。为了提高ChunkServer的存储性能,可以通过多种技术手段进行优化,如缓存、压缩、并行处理等。本文将详细讨论这些技术的应用,并提供具体的代码示例。
44 0
|
4月前
|
存储 运维 监控
在Linux中,在分布式环境中如何实现文件系统冗余和同步?(例如DRBD、GlusterFS)
在Linux中,在分布式环境中如何实现文件系统冗余和同步?(例如DRBD、GlusterFS)
|
5月前
|
存储 监控 算法
高性能存储 SIG 月度动态:优化 xfs dax reflink 时延,独立选型并维护 mdadm 和 ledmon
高性能存储 SIG 月度动态:优化 xfs dax reflink 时延,独立选型并维护 mdadm 和 ledmon。
|
算法 调度
文件系统-性能优化-磁臂调度算法
操作系统 文件系统 性能优化 磁臂调度算法 先来先服务 FCFS (First Come First Served) 最短寻道时间优先 SSF (Shortest Seek First) 扫描算法(SCAN)/电梯算法 (Elevator algorithm) 单向扫描调度算法 (C-SCAN)N-Step-SCAN FSCAN 旋转调度
607 0
文件系统-性能优化-磁臂调度算法
|
监控 测试技术 API
内核调优 | 如何提升Elasticsearch master调度性能40倍
自建集群从Elasticsearch 6.3.2 版本升至 7.4.0 版本,如何解决Master卡顿、创建/删除索引耗时过多的问题?本文给你答案。
3537 0
内核调优 | 如何提升Elasticsearch master调度性能40倍
|
存储 缓存 测试技术
使用iozone测试磁盘性能
IOzone是一个文件系统测试基准工具。可以测试不同的操作系统中文件系统的读写性能。可以通过 write, re-write, read, re-read, random read, random write, random mix, backwards read, record rewirte, strided read, fwrite, frewrite, fread, freread, mmap, async I/0 等不同的模式下的硬盘的性能。
1892 0
|
存储 网络安全 Perl