Linux系统篇—CPU上下文切换案例假设

简介: CPU 上下文切换是保证 Linux 系统正常工作的一个核心功能

简介

CPU 上下文切换是保证 Linux 系统正常工作的一个核心功能,按照不同场景,可以分为进程上下文切换、线程上下文切换和中断上下文切换。

碰到上下文切换次数过多的问题时,我们可以借助 vmstatpidstat/proc/interrupts等工具,来辅助排查性能问题的根源。

vmstat & pidstat 工具

vmstat 是一个常用的系统性能分析工具,主要用来分析系统的内存使用情况,也常用来分析 CPU 上下文切换和中断的次数。

# 每隔 5 秒输出 1 组数据
vmstat 5
复制代码
[root@node2 sysstat]# vmstat 5
procs ----memory----  ------  --swap--  -----10-----system-- ------cpu----  
swpdfree  buff cache  si  SO  bi  bo in cs us sy id wa st 
15 145392 251820 1896860    1 291 日1198
0
8 0 144888 251820 1896952 5 3951 1594 100 0 0  0  
10  0 145408 251820 1896952 26 4736 1564900

每列的含义:

  • cs(context switch) 是每秒上下文切换的次数。
  • in(interrupt) 则是每秒中断的次数。
  • r(Running or Runnable) 是就绪队列的长度,也就是正在运行和等待 CPU 的进程数。
  • b(Blocked) 则是处于不可中断睡眠状态的进程数。

vmstat 只给出了系统总体的上下文切换情况,要想查看每个进程的详细情况,需要使用pidstat -w选项,就可以查看每个进程上下文切换的情况了

[root@node2 sysstat]# pidstat -w5
Linux 3.10.0-957.21.3.el7.x86 64(node2) 07/14/2021  _x86_64_  (2 CPU) 
04:45:01 PM UID PID cswch/s nvcswch/s Command 
04:45:06 PM 3.19    systemd 
04:45:06 PM 1.20  0.0 ksoftirgd/0 
04:45:06 PM 0.40  0.0 migration/0 
9
04:45:06 PM 63.27 0.日日  rcu_sched 
04:45:06 PM 日 11  0.20  watchdog/0  
04:45:06 PM 12  0.20    watchdog/1  
04:45:06 PM 日 13  0.80    migration/1 
04:45:06 PM 14  1.40  0.  ksoftirqd/1 
04:45:06 PM 日 37  0.20    khugepaged  
04:45:06 PM 1227  0.80  kworker/1:1H  
04:45:06 PM 日 1326  0.80  0.20  jbd2/vda1-8 
04:45:06 PM 1419  2.59  systemd-journal 
04:45:06 PM 81  2749  0.80  dbus-daemon 
04:45:06 PM 2754  0.60    systemd-logind  
04:45:06 PM 3630  0.40  0.sshd  
04:45:06 PM 999 3819  9.98  redis-server  
04:45:06 PM 日 4855  8.58    kworker/0:2 
04:45:06 PM 7127  0.20  barad agent 
04:45:06 PM 7137  1.80    barad agent 
04:45:06 PM 7629  1.20  kworker/1:1 
04:45:06 PM 13906 1.00    kworker/u4:2  
04:45:06 PM 日 16427 0.20    YDEdr 
04:45:06 PM 20872 0.20  kworker/0:0 
04:45:06 PM 日 22308 0.20    pidstat 
04:45:06 PM04:45:06 PM04:45:06 PM日223212232225749
0.60
2.20
1.40
0.20 sshd sshd kworker/0:1@
04:45:06 PM 28971 3.59    kworker/1:0

每列的含义:

  • PID: 进程号
  • cswch/s:  表示每秒自愿上下文切换(voluntary context switches)的次数
  • nvcswch/s:  表示每秒非自愿上下文切换(non voluntary context switches)的次数。

自愿上下文切换: 是指进程无法获取所需资源,导致的上下文切换。比如说,I/O、内存等系统资源不足时,就会发生自愿上下文切换。

非自愿上下文切换: 则是指进程由于时间片已到等原因,被系统强制调度,进而发生的上下文切换。比如说,大量进程都在争抢 CPU 时,就容易发生非自愿上下文切换。

案例假设

准备

sysbench 是一个多线程的基准测试工具,一般用来评估不同系统参数下的数据库负载情况。在这次案例中,我们把它当成一个异常进程来看待使用,作用是模拟上下文切换过多的问题。

# 安装sysbench、sysstat
apt install sysbench sysstat 或 yum install sysbench sysstat
复制代码

场景一:模拟多线程调度瓶颈

上下文切换排查

  1. 第一个终端里运行
sysbench --threads=10 --max-time=300 threads run
  1. (以 10 个线程运行 5 分钟的基准测试,模拟多线程切换的问题)
  2. 第二个终端运行 vmstat 1 ,观察上下文切换情况 (每隔 1 秒输出 1 组数据(需要 Ctrl+C 才结束)
[ root @node2~ l # vmstat 1
 p rO CS 
- memorry --
-- swap --
s1
S0
: system --
 in cs us sy id wa st 
1119800
61336142262928@7612 
 SWpd free 
 buff 
0223180245332
0223048245332
 cache 
18258881825888
61
00
29

对比发现,cs列 的上下文切换次数从之前的 1 骤然上升到了 142 万。同时其他指标:
r 列:就绪队列的长度已经到了6~8,远远超过了系统 CPU 的个数 2,所以肯定会有大量的 CPU 竞争。
us(user)和 sy(system)列:这两列的 CPU 使用率加起来上升到了近100%,其中系统 CPU 使用率,也就是 sy 列高达 70%,说明 CPU 主要是被内核占用了。
in 列:中断次数也上升到了 6 万左右,说明中断处理也是个潜在的问题。

综合这几个指标,可以知道,系统的就绪队列过长,也就是正在运行和等待 CPU 的进程数过多,导致了大量的上下文切换,而上下文切换又导致了系统 CPU 的占用率升高。

  1. 第三个终端再用pidstat -w -u 1 来看一下是什么进程导致了这些问题 (-w 参数表示输出进程切换指标,而 -u 参数则表示输出 CPU 使用指标,1 每隔 1 秒输出 1 组数据)
  2. 03d893485ca278ecb5e3f4624b1c22f.png

从 pidstat 的输出发现,CPU 使用率的升高果然是 sysbench 导致的,它的 CPU使用率已经达到了 100%。但上下文切换则是来自其他进程,包括非自愿上下文切换(nvcswch/s)最高的 pidstat ,以及自愿上下文切换频率较高的内核线程 kworker 和 sshd。

  1. pidstat -wt 1 输出的线程上下文切换次数 ( -wt 参数表示输出线程的上下文切换指标)第 [3] 步得到的切换次数比 vmstat 的 142 万明显小了太多,因为Linux 调度的基本单位实际上是线程,而场景 sysbench 模拟的是线程的调度问题,通过运行 man pidstat ,你会发现,pidstat 默认显示进程的指标数据,加上 -t 参数后,才会输出线程的指标
31495
32211
32212
32213
32214
32215
32216
32217
32218
32219
32220
 kwo rker /1:3
( sysbench )._ sysbench 
 sysbench 
 sysbench 
 sysbench 
 sysbench 
 sysbench 
 sysbench 
 sysbench 
 sysbench 
 sysbench 
0.00 ntpdate 
- I 
 ntnrdata 
20063.00
118193.00
27086.00105070.00
13982.00140562.00
18298.00121395.00
17106.00116920.00
25856.00116145.00
22078.00120336.00
27865.00101741.0018605.00117501.00
25621.00116188.00
32241
6.00

中断次数与类型排查

怎样才能知道中断发生的类型呢?

/proc/interrupts 这个只读文件中读取。/proc 实际上是 Linux 的一个虚拟文件系统,用于内核空间与用户空间之间的通信。/proc/interrupts 就是这种通信机制的一部分,提供了一个只读的中断使用情况。

通过运行watch -d cat /proc/interrupts,观察中断的变化情 (-d 参数表示高亮显示变化的区域)

Every 2.0s:cat /proc/interrupts
CPUO  CPUI  
日:  100 IO-APIC-edge  timer 
1 10  IO-APIC-edge  i8042 
0
4:  639 3 IO-APIC-edge  IO-APIC-edge  serial  floppy  
6:
8:  IO-APIC-edge  rtc0  
10:   IO-APIC-fasteoi IO-APIC-fasteoi acpi  virtio2 
9:
0
0
0
11: I0-APIC-fasteoi uhci hcd:usbl 
12: 15    IO-APIC-edge  i8042 
14: 17234954  IO-APIC-edge  ata_piix  
15: IO-APIC-edge  ata_piix  
24: 日 PCI-MSI-edge  virtio0-config  
25: 50491709  PCI-MSI-edge  virtio0-input.0 
26: 838 PCI-MSI-edge  virtio0-output.0  
27: 2 44627787  PCI-MSI-edge  virtio0-input.l 
28: 1 824 PCI-MSI-edge  virtio0-output.l  
29: PCI-MSI-edge  virtiol-config  
0
30: 41596498  PCI-MSI-edge  virtiol-reg.0 
NMI:    Non-maskable interrupts 
0
LOC:  187767727 260431111 Local timer interrupts  
SPU:  Spurious interrupts 
PMI:  Performance monitoring interrupts 
IWI:  170097775 172534312 IRO work interrupts 
RTR:  APTC TOR read retrieg 
RES:  636306139 651319835 Rescheduling interrupts 
CAL 827 23082840  Function call interrupts  
TLB:  25920181  251945674 TLB shootdowns  
TRM:  Thermal event interrupts  
THR:  Threshold APIC interrupts 
DFR:  Deferred Error APIc interrupts  
MCE:  Machine check exceptions  
MCP:  ERR:  58828 日 58828 Machine check polls 

观察一段时间,可以发现,变化速度最快的是重调度中断(RES),

重调度中断(RES) : 唤醒空闲状态的 CPU 来调度新的任务运行。这是多处理器系统(SMP)中,调度器用来分散任务到不同 CPU 的机制,通常也被称为处理器间中断(Inter-ProcessorInterrupts,IPI)。

每秒上下文切换多少次才算正常

这个数值其实取决于系统本身的 CPU 性能当上下文切换次数超过一万次,或者切换次数出现数量级的增长时,就很可能已经出现了性能问题。

还需要根据上下文切换的类型,再做具体分析。比方说:

  • 自愿上下文切换变多了,说明进程都在等待资源,有可能发生了 I/O 等其他问题;
  • 非自愿上下文切换变多了,说明进程都在被强制调度,也就是都在争抢 CPU,说明 CPU的确成了瓶颈;
  • 中断次数变多了,说明 CPU 被中断处理程序占用,还需要通过查看 /proc/interrupts文件来分析具体的中断类型



相关文章
|
11天前
|
缓存 监控 Linux
|
16天前
|
缓存 Linux
揭秘Linux内核:探索CPU拓扑结构
【10月更文挑战第26天】
33 1
|
16天前
|
缓存 运维 Linux
深入探索Linux内核:CPU拓扑结构探测
【10月更文挑战第18天】在现代计算机系统中,CPU的拓扑结构对性能优化和资源管理至关重要。了解CPU的核心、线程、NUMA节点等信息,可以帮助开发者和系统管理员更好地调优应用程序和系统配置。本文将深入探讨如何在Linux内核中探测CPU拓扑结构,介绍相关工具和方法。
16 0
|
28天前
|
运维 JavaScript Linux
容器内的Nodejs应用如何获取宿主机的基础信息-系统、内存、cpu、启动时间,以及一个df -h的坑
本文介绍了如何在Docker容器内的Node.js应用中获取宿主机的基础信息,包括系统信息、内存使用情况、磁盘空间和启动时间等。核心思路是将宿主机的根目录挂载到容器,但需注意权限和安全问题。文章还提到了使用`df -P`替代`df -h`以获得一致性输出,避免解析错误。
|
2月前
|
NoSQL Linux Redis
linux安装单机版redis详细步骤,及python连接redis案例
这篇文章提供了在Linux系统中安装单机版Redis的详细步骤,并展示了如何配置Redis为systemctl启动,以及使用Python连接Redis进行数据操作的案例。
68 2
|
2月前
|
人工智能 监控 Shell
常用的 55 个 Linux Shell 脚本(包括基础案例、文件操作、实用工具、图形化、sed、gawk)
这篇文章提供了55个常用的Linux Shell脚本实例,涵盖基础案例、文件操作、实用工具、图形化界面及sed、gawk的使用。
430 2
|
2月前
|
Unix Linux 网络安全
python中连接linux好用的模块paramiko(附带案例)
该文章详细介绍了如何使用Python的Paramiko模块来连接Linux服务器,包括安装配置及通过密码或密钥进行身份验证的示例。
76 1
|
2月前
|
监控 Linux Shell
30 个实用的 Linux 命令贴与技巧,提升你的效率(附实战案例)
本文介绍了30个实用的Linux命令及其应用场景,帮助你提升命令行操作效率。涵盖返回目录、重新执行命令、查看磁盘使用情况、查找文件、进程管理、网络状态监控、定时任务设置等功能,适合各水平的Linux用户学习和参考。
|
1月前
|
存储 Linux
服务器数据恢复—Linux操作系统网站服务器数据恢复案例
服务器数据恢复环境: 一台linux操作系统网站服务器,该服务器上部署了几十个网站,使用一块SATA硬盘。 服务器故障&原因: 服务器在工作过程中突然宕机。管理员尝试重新启动服务器失败,于是将服务器上的硬盘拆下检测,发现很多坏扇区。联系当地的一家数据恢复公司处理,但是没有成功。
|
2月前
|
存储 数据挖掘 Linux
服务器数据恢复—Linux操作系统网站服务器数据恢复案例
服务器数据恢复环境: 一台linux操作系统服务器上跑了几十个网站,服务器上只有一块SATA硬盘。 服务器故障: 服务器突然宕机,尝试再次启动失败。将硬盘拆下检测,发现存在坏扇区