尝试找出linux服务器性能瓶颈--影响平均负载的几类因素

简介: linux系统的多任务处理能力受到广泛偏好,但性能瓶颈的指标非常繁多。我们今天来看一下如何查看系统性能负载的瓶颈。我们用性能测试的软件模拟下环境。来探究下如何发现真正的性能瓶颈

写在前面:
本篇文章融合了网络上多方的内容进行整合,经过实际操作成功后进行的重新编译。比如问题角度的变换引起的性能测试工具或参数的变动等。某些关键知识点也会有相应的补充。
实验实例采用阿里云ECS产品,参数为2C8G T5型实例,CentOS 7.4系统。除了安装软件的方式有所不同,Ubuntu、rh等其他版本的操作系统同样适用。
用到的工具有stress、stress-ng、sysstat
重要提示:其中sysstat需要更新到最新版本才能反馈iowait等参数变化

Linux 性能优化实践:
当服务器出现性能瓶颈,我们都习惯用top或uptime命令,来查看服务器当前的状态。比如uptime

$ uptime
08:26:48 up 3 days, 17:11, 2 users, load average: 0.00, 0.01,
0.05

展示的字段分别为
08:26:48 当前时间
up 3 days 系统从上次开机开始已经运行了多久
2 users 目前有几个终端连接服务器
后三个数 依次是过去1分钟、5分钟、15分钟的平均负载

平均负载是什么?我们可以执行man 命令,来了解详细解释。
image

简单来说就是单位时间内,系统处于可运行状态和不可中断状态的平均进程数,也就是平均活跃进程数,和CPU利用率并没有直接关系。

可运行状态和不可中断状态又是什么?

可运行状态,是指正在使用CPU或者正在等待CPU的进程。
不可中断状态的进程则是处于内核态关键流程的进程,并且不可打断。比如常见的等待硬件设备的I/O响应,也就是我们在ps命令中看到的D状态进程。

举个例子:当一个进程向磁盘读写数据时,为了保证数据一致性,在磁盘回复前,他是不能被其他进程或者中断打断的,这个时候的进程就处于不可中断状态。如果此时的进程被打断了。就容易出现磁盘与进程数据不一致的问题。
所以,不可中断状态实际上是系统对进程和硬件设备的一种保护机制。

因此我们可以简单的认为,平均负载其实就是平均活跃进程数。既然是平均活跃进程数,那么最理想的就是每个CPU上都刚好运行着一个进程,这样每个CPU都得到了充分利用。比如负载是2的时候,就意味着CPU数小于2,就意味着一半的进程需要等待CPU的响应。这里的CPU数,我们在/proc/cpuinfo条目中就可以查看
image


有多少个不同的physical id 就有多少个CPU
siblings记录了对应的物理CPU有多少个逻辑核,逻辑核就是物理CPU用HT技术虚拟出来的逻辑处理单元比如1核2线程。

再为初学者同步一个进程和线程的概念。

一个核心只能同时执行一个线程。进程是操作系统进行资源(包括cpu、内存、磁盘IO等)分配的最小单位。线程是cpu调度和分配的基本单位。我们打开的聊天工具,浏览器都是一个进程。进程可能有多个子任务,比如聊天工具要接受消息,发送消息,这些子任务就是线程。资源分配给进程,线程共享进程资源。关于更进一步的线程消耗我们后续的贴子里讲。

那么有了CPU个数,我们就可以判断出,当平均负载大于CPU个数的时候,系统就出现了过载。不过平均负载有1分钟,5跟中和15分钟。我们要参考哪一个?实际上都要看。比如上午11点的望京站一点都不堵,我们不能判断望京站不堵。那具体我们要怎么看?

1.如果1分钟、5分钟、15分钟的三个值基本相同,或者相差不大,那就说明系统负载很平稳。
2.如果1分钟的值远小于15分钟说明最近1分钟负载在减小。相反则说明最近1分钟负载在增加。

如果在实际生产环境中,平均负载高于CPU数量70%的时候,我们就要关注了。

平均负载和CPU利用率

我们在实际工作中,很容易把平均负载和CPU使用率混淆。平均负载指的是平均进程数,它不仅包括了正在使用CPU的进程,还包括了等待CPU和等待I/O的进程。
而CPU使用率,是单位时间内CPU繁忙情况的统计,跟平均负载并不一定完全对应,比如:

CPU密集型进程,使用大量CPU会导致平均负载升高。此时两者是一致的。
I/O密集型进程,等待I/O也会导致平均敷在升高,但CPU使用率不一定高。
大量等待CPU的进程调度也会导致平均负载升高,此时的CPU使用率也会比较高。

如果需要看上述三种情况的具体细节,我们可以用iostat、mpstat、pidstat等工具,找出平均负载升高的根源。

下面根据上述的三种情况我们一起来测试一下:

测试前先记录一下一段时间的平均负载
image

场景一:开启一个终端运行stress命令,模拟一个CPU使用率100%的情况。

image
执行Uptime可以看到平均负载上升
image
执行mpstat可以看到一个CPU跑满
image
再开启一个终端运行pidstat来查看哪个进程导致这种情况
image
可以看到是stress进程导致的100%

场景二:开启一个终端运行I/O密集型进程模拟I/O压力, 即不停执行sync(缓存写盘):

(这里使用stress的升级版stress-ng,因为新的虚拟机可能缓存区比较小。做sync操作大部分消耗都在系统消耗内。)
开启终端运行uptime查看平均负载
image
再执行mpstat查看,这次的CPU平均负载升高是因为大量的IO请求待处理。
image
在第三个终端上可以用pidstat查看哪个进程导致了io升高
image
可以看到同样是stress造成的。

场景三:开启一个终端用stress模拟CPU繁忙的场景,由于我们实验实例是2核心的CPU,测试就用4个进程模拟做运算。

image
再用uptime查看下平均负载情况
image
再开启一个终端用mpstat查看CPU使用率的变化情况
image
可以看到平均负载慢慢增加到1.17。另一个终端可以看到CPU利用率为99.8%。iowait只有0.01,说明平均负载升高由于CPU过度繁忙。
我们再用pidstat命令查看那个进程导致CPU飙升,可以看到是我们进行性能测试的stress进程导致。
image

PS:过程中我们试图将stress的 —cpu参数调制100。系统运行基础指令都开始卡顿。

如此我们可以归纳下平均负载

平均负载提供了一个快速查看整体系统性能的手段,反映了整体的负载情况。但只看平均负载本身并不能直接看到问题出现在哪里。所以我们可以关注上述的三种可以使CPU平均负载上升的情况。可以用uptime先看分时段的CPU平均负载。用mpstat查看平均负载升高是由于什么原因。pidstat来查看究竟是哪个进程造成了平均负载的升高。

目录
相关文章
|
2月前
|
Linux 网络安全 数据安全/隐私保护
Linux 超级强大的十六进制 dump 工具:XXD 命令,我教你应该如何使用!
在 Linux 系统中,xxd 命令是一个强大的十六进制 dump 工具,可以将文件或数据以十六进制和 ASCII 字符形式显示,帮助用户深入了解和分析数据。本文详细介绍了 xxd 命令的基本用法、高级功能及实际应用案例,包括查看文件内容、指定输出格式、写入文件、数据比较、数据提取、数据转换和数据加密解密等。通过掌握这些技巧,用户可以更高效地处理各种数据问题。
213 8
|
2月前
|
监控 Linux
如何检查 Linux 内存使用量是否耗尽?这 5 个命令堪称绝了!
本文介绍了在Linux系统中检查内存使用情况的5个常用命令:`free`、`top`、`vmstat`、`pidstat` 和 `/proc/meminfo` 文件,帮助用户准确监控内存状态,确保系统稳定运行。
848 6
|
2月前
|
Linux
在 Linux 系统中,“cd”命令用于切换当前工作目录
在 Linux 系统中,“cd”命令用于切换当前工作目录。本文详细介绍了“cd”命令的基本用法和常见技巧,包括使用“.”、“..”、“~”、绝对路径和相对路径,以及快速切换到上一次工作目录等。此外,还探讨了高级技巧,如使用通配符、结合其他命令、在脚本中使用,以及实际应用案例,帮助读者提高工作效率。
134 3
|
2月前
|
监控 安全 Linux
在 Linux 系统中,网络管理是重要任务。本文介绍了常用的网络命令及其适用场景
在 Linux 系统中,网络管理是重要任务。本文介绍了常用的网络命令及其适用场景,包括 ping(测试连通性)、traceroute(跟踪路由路径)、netstat(显示网络连接信息)、nmap(网络扫描)、ifconfig 和 ip(网络接口配置)。掌握这些命令有助于高效诊断和解决网络问题,保障网络稳定运行。
107 2
|
1月前
|
Linux Shell
Linux 10 个“who”命令示例
Linux 10 个“who”命令示例
80 14
Linux 10 个“who”命令示例
|
1月前
|
Ubuntu Linux
Linux 各发行版安装 ping 命令指南
如何在不同 Linux 发行版(Ubuntu/Debian、CentOS/RHEL/Fedora、Arch Linux、openSUSE、Alpine Linux)上安装 `ping` 命令,详细列出各发行版的安装步骤和验证方法,帮助系统管理员和网络工程师快速排查网络问题。
141 20
|
22天前
|
Linux
linux查看目录下的文件夹命令,find查找某个目录,但是不包括这个目录本身?
通过本文的介绍,您应该对如何在 Linux 系统中查看目录下的文件夹以及使用 `find` 命令查找特定目录内容并排除该目录本身有了清晰的理解。掌握这些命令和技巧,可以大大提高日常文件管理和查找操作的效率。 在实际应用中,灵活使用这些命令和参数,可以帮助您快速定位和管理文件和目录,满足各种复杂的文件系统操作需求。
61 8
|
1月前
|
网络协议 Linux 应用服务中间件
kali的常用命令汇总Linux
kali的常用命令汇总linux
69 7
|
2月前
|
Linux 数据库
Linux中第一次使用locate命令报错?????
在Linux CentOS7系统中,使用`locate`命令时出现“command not found”错误,原因是缺少`mlocate`包。解决方法是通过`yum install mlocate -y`或`apt-get install mlocate`安装该包,并执行`updatedb`更新数据库以解决后续的“can not stat”错误。
48 9