go程序测试CPU占用率统计ps vs top两种不同方式对比
作者:极限实验室 发布时间:2024-05-05 09:27:04
如何计算 CPU 占用率?
简单来说,进程的 CPU 占用率指的是 CPU 有多少时间花费在了运行进程上。在 Linux 系统里,进程运行的时间是以jiffies
[1]统计的,通过计算jiffies * HZ
,就可以得到进程消耗的 CPU 时间,再除以 CPU 的总时间,就可以得到进程的 CPU 占用率:jiffies * HZ / total_time
。
ps 和 top 的不同之处
ps
和top
是最常用的两种查看 CPU 占用的方式,都可以用来快速找到当前 CPU 占用率高的进程。但实际上这两个工具的统计方式是完全不同的。
我们用下面这个简单的 Go 程序来测试这两个工具的差别:
package main
import (
"bytes"
"fmt"
"strconv"
"sync"
"time"
)
var testData = []byte(`testdata`)
func testBuffer(idx int) {
m := map[string]*bytes.Buffer{}
for i := 0; i < 100; i += 1 {
buf, ok := m[strconv.Itoa(i)]
if !ok {
buf = new(bytes.Buffer)
}
for j := 0; j < 1024; j += 1 {
buf.Write(testData)
}
m[strconv.Itoa(i)] = buf
}
fmt.Println("done, ", idx)
wg.Done()
}
var wg sync.WaitGroup
func main() {
for i := 0; i < 10; i += 1 {
wg.Add(1)
j := i
go testBuffer(j)
}
wg.Wait()
fmt.Println("sleeping")
time.Sleep(time.Hour)
}
然后我们运行这个程序,通过top
和ps aux
分别查看进程的 CPU 占用情况。
top -n 1
:
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
39753 infini 20 0 14.663g 0.014t 1200 S 611.1 22.2 0:23.53 test-cpu
ps aux
:
USER PID %CPU %MEM VSZ RSS TTY STAT START TIME COMMAND
infini 39881 767 39.1 26505284 25791892 pts/16 Sl+ 07:04 0:38 ./test-cpu
可以看到,ps
和top
统计的 CPU 占用率是近似的(由于时间点并不完全吻合,统计值也会有轻微差别)。两个工具的差异体现在testBuffer
结束后,top
统计的 CPU 占用率已经接近于 0,但是ps
依然统计到很高的 CPU 占用率:
USER PID %CPU %MEM VSZ RSS TTY STAT START TIME COMMAND
infini 39881 82.3 42.4 28638148 27953532 pts/16 Sl+ 07:04 0:40 ./test-cpu
为什么 ps 和 top 的统计值会有差异?
这两个工具的差异来自于各自运行方式的不同:top 只能持续运行一段时间,而 ps 是立刻返回的。这个差异体现在运行top -n 1
和ps aux
时,top
是延迟后返回的,而ps
是立刻返回的。这两种不同的运行方式就会反映在两个工具的统计算法上。
文章开头我们提到,Linux 的 CPU 时间是按照jiffies
统计的,考虑到效率问题,Linux 只会统计总值,不会记录历史数据。对于 ps
来说,由于只能统计到瞬时值,这个瞬时值的统计算法就必然拿不到实时的 CPU 占用率,因为实时的占用率需要通过 (current_cpu_time - last_cpu_time) / time_duration
来得到,ps
只能统计一次,所以time_duration
为0
,也就无法计算这个占用率。实际上,ps
统计的是整个进程运行周期内的 CPU 占用率[2]:
(total_cpu_time / total_process_uptime)
对于测试程序这种短时间的占用率上升,刚开始的时候 ps
能够统计到近似准确的平均 CPU 占用率,但是 cpu 占用恢复后,ps
的统计值并不会立刻下降,而是会随着进程运行时间total_process_uptime
的增加缓慢下降。
top
命令不同, top
是通过持续运行来更新 CPU 占用率统计的。-n 1
这个参数指定 top
运行一个迭代后退出,top
命令就可以通过这个延迟来可以完成一个迭代内的 CPU 占用率统计:
(current_cpu_time - last_cpu_time) / iteration_duration
如何持续监控 CPU 占用率?
通常来说,监控系统分为采集和统计两个不同的组件,采集组件只会采集指标数值,统计功能通过数据库/Dashboard 来实现。要监控 CPU 占用率,ps
是一个非常符合采集组件行为的统计方式,每次采集都可以拿到“当前”的 CPU 占用率。但是受限于算法本身的统计方式,我们实际采集到的是平均 CPU 占用率,无法反映进程的实时状态。
以 INFINI Console为例,我们运行一个短时间的数据迁移任务负载,然后查看对应 INFINI 网关实例的 CPU 占用监控(payload.instance.system.cpu
,通过ps
方式统计当前 CPU 占用率)。可以看到,CPU 占用率会以一个曲线上升,在任务结束后会缓慢下降:
如果想持续监控实时 CPU 占用率,我们就需要借鉴top
的统计方式,采集原始的进程 CPU 时间,进而通过聚合数据来计算 CPU 占用率。
在 Linux 系统下,ps
和top
命令都会通过/proc/[PID]/stat
提供的信息来计算 CPU 占用率[2]:
## Name Description
14 utime CPU time spent in user code, measured in jiffies
15 stime CPU time spent in kernel code, measured in jiffies
16 cutime CPU time spent in user code, including time from children
17 cstime CPU time spent in kernel code, including time from children
获取到每个采样时间的进程信息后,我们就可以通过这个公式来计算采样周期内的 CPU 占用率:
delta(cpu_time) / delta(timestamp)
在 INFINI Console,我们可以通过deriative
函数来计算payload.instance.system.user_in_ms
和payload.instance.system.sys_in_ms
相对于timestamp
的占比,进而得到准确的 CPU 占用率统计。
这样,我们就可以统计到网关在运行任务负载前后的实时 CPU 占用率:
来源:https://segmentfault.com/a/1190000043820945


猜你喜欢
- 本文实例讲述了Java实现基于JDBC操作mysql数据库的方法。分享给大家供大家参考,具体如下:package main;import j
- 前言看了网上许多关于Windows 本地安装mysql的很多教程,基本上大同小异。但是安装软件有时就可能因为一个细节安装失败。我也是综合了很
- 一、前言之前做了一个算法作业,叫做棋盘覆盖,本来需要用c语言来编写的,但是因为我的c语言是半桶水(哈哈),所以索性就把网上的c语言写法改成J
- 前言本文主要给大家介绍了关于python子类调用父类函数的相关内容,Python中子类中的__init__()函数会覆盖父类的函数,一些情况
- 今天在推上看到一条获取PHP类私有属性的推文,感觉很有意思:顺着推文联想,还有其他方式吗?经过自己的测试及网上答案,总结出三种方法:1. 反
- 我就废话不多说了,大家还是直接看代码吧~old_record=numpy.load('exist.npy')temp_rec
- 本文转自公众号:"算法与编程之美"1、问题描述Python中数据类型有列表,元组,字典,队列,栈,树等等。像列表,元组这
- 前言schedule是一个第三方轻量级的任务调度模块,可以按照秒,分,小时,日期或者自定义事件执行时间。如果想执行多个任务,也可以添加多个t
- 目录什么是索引?最左前缀匹配原则如何计算 key_len索引优化创建索引规范什么是索引?数据库索引是一种数据结构,它以额外的写入和存储空间为
- 前言本文主要介绍了关于Python中TCP socket的写法,分享出来供大家参考学习,下面话不多说了,来一起看看详细的介绍吧。一、 服务器
- 写这篇文章的时候,还真不知道如何取名,也不知道这个该如何将其归类。这个是同事遇到的一个案例,案例比较复杂,这里抽丝剥茧,仅仅构造一个简单的案
- 不管是一名学生,亦或是一名员工,我们都需要时刻注意学校或公司网站的通知,尽量做到即时获取最新消息。大部分博客或数据资源网站都会有自己的RSS
- 字典数据结构分析/* The ma_values pointer is NULL for a combined table * or poi
- 很久很久以前,有一群人,他们决定用8个可以开合的晶体管来组合成不同的状态,以表示世界上的万物。他们看到8个开关状态是好的,于是他们把这称为字
- 看代码吧~predict = output.argmax(dim = 1)confusion_matrix =torch.zeros(2,2
- 本文主要介绍下如何使用第三方库。1. 理解第三方库Python相当于一个手机,第三方库相当于手机里各种各样的APP。当我们想搭建网站时,可以
- loss函数如何接受输入值keras封装的比较厉害,官网给的例子写的云里雾里,在stackoverflow找到了答案You can wrap
- 本文实例讲述了JavaScript简单计算人的年龄的方法。分享给大家供大家参考,具体如下:注意Date()类型转换,否则会出现NaN的错误b
- 首先抛出我们在讨论使用回调编程时的一些观点:激活errback是非常重要的。由于errback的功能与except块相同,因此用户需要确保它
- 一、概述这里不讨论通用的NMS算法(参考论文《Efficient Non-Maximum Suppression》对1维和2维数据的NMS实