CPU平均负载

CPU平均负载

命令行输入uptime命令

1
2
# uptime
09:14:44 up 14 days, 21:31, 1 user, load average: 0.06, 0.04, 0.05

每列输出的含义

1
2
3
4
09:14:44 							//当前时间
up 14 days, 21:31 //系统运行时间
1 user //正在登录用户数
load average: 0.06, 0.04, 0.05 //1min、5min、15min的平均负载

平均负载

含义:平均负载是指单位时间内,系统处于可运行状态不可中断状态的平均进程数,也就是平均活跃进程数,它和CPU使用率没有直接关系。

可运行状态:是指正在使用 CPU 或者正在等待 CPU 的进程,也就是我们常用 ps 命令看到的,处于 R 状态(Running 或 Runnable)的进程。

不可中断状态:是指正处于内核态关键流程中的进程,并且这些流程是不可打断的,比如最常见的是等待硬件设备的 I/O 响应,也就是我们在 ps 命令中看到的 D 状态(Uninterruptible Sleep,也称为 Disk Sleep)的进程。

比如,当一个进程向磁盘读写数据时,为了保证数据的一致性,在得到磁盘回复前,它是不能被其他进程或者中断打断的,这个时候的进程就处于不可中断状态。如果此时的进程被打断了,就容易出现磁盘数据与进程数据不一致的问题。所以,不可中断状态实际上是系统对进程和硬件设备的一种保护机制。

因此,你可以简单理解为,平均负载其实就是平均活跃进程数。平均活跃进程数,直观上的理解就是单位时间内的活跃进程数,但它实际上是活跃进程数的指数衰减平均值。这个“指数衰减平均”的详细含义你不用计较,这只是系统的一种更快速的计算方式,你把它直接当成活跃进程数的平均值也没问题。

既然平均的是活跃进程数,那么最理想的,就是每个 CPU 上都刚好运行着一个进程,这样每个 CPU 都得到了充分利用。比如当平均负载为 2 时,意味着什么呢?

  • 在只有 2 个 CPU 的系统上,意味着所有的 CPU 都刚好被完全占用。
  • 在 4 个 CPU 的系统上,意味着 CPU 有 50% 的空闲。
  • 而在只有 1 个 CPU 的系统中,则意味着有一半的进程竞争不到 CPU。

平均负载为多少时合理

首先你要知道系统有几个 CPU,这可以通过 top 命令或者从文件 /proc/cpuinfo 中读取,比如:

1
2
#  grep 'model name' /proc/cpuinfo | wc -l
20

有了 CPU 个数,我们就可以判断出,当平均负载比 CPU 个数还大的时候,系统已经出现了过载。

平均负载有三个数值,到底该参考哪一个呢?实际上,都要看。三个不同时间间隔的平均值,其实给我们提供了,分析系统负载趋势的数据来源,让我们能更全面、更立体地理解目前的负载状况。

  • 如果 1 分钟、5 分钟、15 分钟的三个值基本相同,或者相差不大,那就说明系统负载很平稳。
  • 如果 1 分钟的值远小于 15 分钟的值,就说明系统最近 1 分钟的负载在减少,而过去 15 分钟内却有很大的负载。
  • 如果 1 分钟的值远大于 15 分钟的值,就说明最近 1 分钟的负载在增加,这种增加有可能只是临时性的,也有可能还会持续增加下去,所以就需要持续观察。一旦 1 分钟的平均负载接近或超过了 CPU 的个数,就意味着系统正在发生过载的问题,这时就得分析调查是哪里导致的问题,并要想办法优化了。

在实际生产环境中,平均负载多高时,需要我们重点关注呢?

当平均负载高于 CPU 数量 70% 的时候,你就应该分析排查负载高的问题了。一旦负载过高,就可能导致进程响应变慢,进而影响服务的正常功能。

但 70% 这个数字并不是绝对的,最推荐的方法,还是把系统的平均负载监控起来,然后根据更多的历史数据,判断负载的变化趋势。当发现负载有明显升高趋势时,比如说负载翻倍了,你再去做分析和调查。

平均负载与CPU使用率

可能你会疑惑,既然平均负载代表的是活跃进程数,那平均负载高了,不就意味着CPU使用率高吗?

我们还是要回到平均负载的含义上来,平均负载是指单位时间内,处于可运行状态和不可中断状态的进程数。所以,它不仅包括了正在使用CPU的进程,还包括等待CPU等待IO的进程。

而CPU使用率,是单位时间内CPU繁忙情况的统计,跟平均负载并不一定完全对应。比如:

  • CPU 密集型进程,使用大量 CPU 会导致平均负载升高,此时这两者是一致的;
  • I/O 密集型进程,等待 I/O 也会导致平均负载升高,但 CPU 使用率不一定很高;
  • 大量等待 CPU 的进程调度也会导致平均负载升高,此时的 CPU 使用率也会比较高。

平均负载案例分析

案例环境如下:

​ 机器配置:20 CPU,32GB 内存。

uptime命令,看一下测试前的平均负载情况:

1
2
# uptime
11:35:53 up 14 days, 23:52, 3 users, load average: 0.04, 0.08, 0.06
场景一:CPU密集型进程

首先,我们在第一个终端运行 stress 命令,模拟一个 CPU 使用率 100% 的场景:

1
$ stress --cpu 1 --timeout 600

接着,打开第二个终端运行 uptime 查看平均负载的变化情况:

1
2
# uptime
11:47:45 up 15 days, 4 min, 3 users, load average: 1.00, 0.85, 0.47

最后,在第三个终端运行 mpstat 查看 CPU 使用率的变化情况:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
# -P ALL 表示监控所有CPU,后面数字5表示间隔5秒后输出一组数据
$ mpstat -P ALL 5
Linux 3.10.0-1062.el7.x86_64 (rdc-test-59) 2021年01月18日 _x86_64_ (20 CPU)

11时42分25秒 CPU %usr %nice %sys %iowait %irq %soft %steal %guest %gnice %idle
11时42分30秒 all 5.02 0.00 0.02 0.00 0.00 0.00 0.00 0.00 0.00 94.96
11时42分30秒 0 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 1 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 2 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 3 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 4 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 5 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 6 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 7 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 8 0.20 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 99.80
11时42分30秒 9 0.20 0.00 0.20 0.00 0.00 0.00 0.00 0.00 0.00 99.60
11时42分30秒 10 0.00 0.00 0.00 0.20 0.00 0.00 0.00 0.00 0.00 99.80
11时42分30秒 11 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 12 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 13 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 14 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 15 100.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00
11时42分30秒 16 0.20 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 99.80
11时42分30秒 17 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 18 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00
11时42分30秒 19 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100.00

从终端二中可以看到,一分钟的平均负载会慢慢增加到1.00,而从终端三可以看到正好有一个CPU使用率为100%,但是它的iowait只有0。这说明,平均负载的升高正是由于CPU使用率为100%。

那么,到底是哪个进程导致了 CPU 使用率为 100% 呢?你可以使用 pidstat 来查询:

1
2
3
4
5
6
7
8
9
10
# 间隔5秒后输出一组数据
$ pidstat -u 5 1
Linux 3.10.0-1062.el7.x86_64 (rdc-test-59) 2021年01月18日 _x86_64_ (20 CPU)
13时53分30秒 UID PID %usr %system %guest %CPU CPU Command
13时53分35秒 0 99 0.00 0.20 0.00 0.20 18 ksoftirqd/18
13时53分35秒 0 2525 0.00 0.20 0.00 0.20 11 docker-containe
13时53分35秒 0 208888 99.80 0.00 0.00 99.80 15 stress
13时53分35秒 0 210252 0.00 0.20 0.00 0.20 13 kubelet
13时53分35秒 0 210451 0.60 0.20 0.00 0.80 12 java
13时53分35秒 0 210564 0.20 0.20 0.00 0.40 18 pidstat

从这里可以明显看到,stress进程得CPU使用率为98%。

ps:后面两个场景是2cpu的机器

场景二:I/O密集型进程

首先还是运行 stress 命令,但这次模拟 I/O 压力,即不停地执行 sync:

1
stress -i 1 --timeout 600

还是在第二个终端运行uptime查看平均负载的情况:

1
2
# uptime
13:58:20 up 15 days, 2:14, 3 users, load average: 1.11, 0.94, 0.60

然后,第三个终端运行 mpstat 查看 CPU 使用率的变化情况:

1
2
3
4
5
6
7
# 显示所有CPU的指标,并在间隔5秒输出一组数据
$ mpstat -P ALL 5 1
Linux 4.15.0 (ubuntu) 09/22/18 _x86_64_ (2 CPU)
13:41:28 CPU %usr %nice %sys %iowait %irq %soft %steal %guest %gnice %idle
13:41:33 all 0.21 0.00 12.07 32.67 0.00 0.21 0.00 0.00 0.00 54.84
13:41:33 0 0.43 0.00 23.87 67.53 0.00 0.43 0.00 0.00 0.00 7.74
13:41:33 1 0.00 0.00 0.81 0.20 0.00 0.00 0.00 0.00 0.00 98.99

从这里可以看到,1 分钟的平均负载会慢慢增加到 1.06,其中一个 CPU 的系统 CPU 使用率升高到了 23.87,而 iowait 高达 67.53%。这说明,平均负载的升高是由于 iowait 的升高。

那么到底是哪个进程,导致 iowait 这么高呢?我们还是用 pidstat 来查询:

1
2
3
4
5
6
7
8
# 间隔5秒后输出一组数据,-u表示CPU指标
$ pidstat -u 5 1
Linux 4.15.0 (ubuntu) 09/22/18 _x86_64_ (2 CPU)
13:42:08 UID PID %usr %system %guest %wait %CPU CPU Command
13:42:13 0 104 0.00 3.39 0.00 0.00 3.39 1 kworker/1:1H
13:42:13 0 109 0.00 0.40 0.00 0.00 0.40 0 kworker/0:1H
13:42:13 0 2997 2.00 35.53 0.00 3.99 37.52 1 stress
13:42:13 0 3057 0.00 0.40 0.00 0.00 0.40 0 pidstat

可以发现。还是stress进程导致的。

场景三:大量进程得场景

当系统中运行进程超出CPU运行能力时,就会出现等待CPU的进程。

1
$ stress -c 50 --timeout 600

由于系统只有 20 个 CPU,明显比 50 个进程要少得多,因而,系统的 CPU 处于严重过载状态,平均负载高达 :

1
2
# uptime
15:17:14 up 15 days, 3:33, 3 users, load average: 49.05, 27.58, 12.38

接着再运行 pidstat 来看一下进程的情况:

1
2
3
4
5
6
7
8
9
10
11
12
# 间隔5秒后输出一组数据
$ pidstat -u 5 1
14:23:25 UID PID %usr %system %guest %wait %CPU CPU Command
14:23:30 0 3190 25.00 0.00 0.00 74.80 25.00 0 stress
14:23:30 0 3191 25.00 0.00 0.00 75.20 25.00 0 stress
14:23:30 0 3192 25.00 0.00 0.00 74.80 25.00 1 stress
14:23:30 0 3193 25.00 0.00 0.00 75.00 25.00 1 stress
14:23:30 0 3194 24.80 0.00 0.00 74.60 24.80 0 stress
14:23:30 0 3195 24.80 0.00 0.00 75.00 24.80 0 stress
14:23:30 0 3196 24.80 0.00 0.00 74.60 24.80 1 stress
14:23:30 0 3197 24.80 0.00 0.00 74.80 24.80 1 stress
14:23:30 0 3200 0.00 0.20 0.00 0.20 0.20 0 pidstat

可以看出,8 个进程在争抢 2 个 CPU,每个进程等待 CPU 的时间(也就是代码块中的 %wait 列)高达 75%。这些超出 CPU 计算能力的进程,最终导致 CPU 过载。

小结

分析完三个案例,归纳下平均负载的理解。

平均负载提供一个快速查看系统整体性能的手段,反映了整体的负载情况。但只看平均负载本身,并不能直接发现,到底哪里出现了瓶颈。所以,在理解平均负载时,也要注意:

  • 平均负载高有可能是 CPU 密集型进程导致的;
  • 平均负载高并不一定代表 CPU 使用率高,还有可能是 I/O 更繁忙了;
  • 当发现负载高的时候,你可以使用 mpstat、pidstat 等工具,辅助分析负载的来源。