【时间】2018.10.10

【题目】Nvidia-smi简介及常用指令及其参数说明

目录

一、什么是Nvidia-smi

二、常用的Nvidia-smi指令

三、各种指令参数总结

nvidia-smi是nvidia 的系统管理界面 ，其中smi是System management interface的缩写，它可以收集各种级别的信息，查看显存使用情况。此外, 可以启用和禁用 GPU 配置选项 (如 ECC 内存功能)。

（以下图片主要来自http://hui.sohu.com/infonews/article/6337322514200395777）

1. nvidia-smi

【功能】 显示出当前GPU的所有基础信息。

解释相关参数含义：

GPU：本机中的GPU编号

Name：GPU 类型

Persistence-M：

Fan：风扇转速

Temp：温度，单位摄氏度

Perf：表征性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能

Pwr:Usage/Cap：能耗表示

Bus-Id：涉及GPU总线的相关信息；

Disp.A：Display Active，表示GPU的显示是否初始化

Memory-Usage：显存使用率

Volatile GPU-Util：浮动的GPU利用率

Uncorr. ECC：关于ECC的东西

Compute M.：计算模式

Processes 显示每块GPU上每个进程所使用的显存情况。

（更详细的说明可参考https://blog.csdn.net/sallyxyl1993/article/details/62220424）

2、  nvidia-smi -L 命令

【功能】 列出所有可用的 NVIDIA 设备

3、 nvidia-smi topo --matrix 命令

【功能】查看系统拓扑

【说明】 要正确地利用更先进的 NVIDIA GPU 功能 (如 GPUDirect)，使用系统拓扑正确配置往往是至关重要的。该拓扑指的是 PCI Express 设备 (GPUs, InfiniBand HCAs, storage controllers, 等) 如何互相连接以及如何连接到系统的CPU。如果使用不正确的拓扑, 某些功能可能会减慢甚至停止工作

4. nvidia-smi -q -d CLOCK 命令

【功能】查看当前的 GPU 时钟速度、默认时钟速度和最大可能的时钟速度

5. nvidia-smi -q -d SUPPORTED_CLOCKS 

【功能】显示每个 GPU 的可用时钟速度列表

6. nvidia-smi vgpu

【功能】 查看当前vGPU的状态信息：

【补充说明】 虚拟图形处理单元（vGPU）是在虚拟桌面上渲染图形的一个组件。倘若没有此组件，显示如下：

7. nvidia-smi vgpu -p 

【功能】循环显示虚拟桌面中应用程序对GPU资源的占用情况

8. nvidia-smi -q

【功能】 查看当前所有GPU的信息，也可以通过参数i指定具体的GPU。

通过nvidia-smi -q 我们可以获取以下有用的信息：

系统中的GPU的基本信息

GPU的SN号、VBIOS、PN号等信息：

GPU的总线、PCI-E总线倍速、风扇转速等信息：

补充： PCI是Peripheral Component Interconnect(外设部件互连标准)的缩写，它是目前个人电脑中使用最为广泛的接口，几乎所有的主板产品上都带有这种插槽。

GPU的显存、BAR1、所有资源利用率、ECC模式等信息：

（参考：https://www.cnblogs.com/xuyuan77/p/7856487.html）

输入指令 nvidia-smi -h

输出如下信息：

NVIDIA System Management Interface – v352.79

NVSMI provides monitoring information for Tesla and select Quadro devices. 

The data is presented in either a plain text or an XML format, via stdout or a file. 

NVSMI also provides several management operations for changing the device state.

Note that the functionality of NVSMI is exposed through the NVML C-based 

library. See the NVIDIA developer website for more information about NVML. 

Python wrappers to NVML are also available. The output of NVSMI is 

not guaranteed to be backwards compatible; NVML and the bindings are backwards 

compatible.

http://developer.nvidia.com/nvidia-management-library-nvml/ 

http://pypi.python.org/pypi/nvidia-ml-py/

Supported products:

Full Support 

All Tesla products, starting with the Fermi architecture

All Quadro products, starting with the Fermi architecture

All GRID products, starting with the Kepler architecture

GeForce Titan products, starting with the Kepler architecture

Limited Support 

All Geforce products, starting with the Fermi architecture

nvidia-smi [OPTION1 [ARG1]] [OPTION2 [ARG2]] ...

参数

详解

-h, –help

Print usage information and exit.

参数

详解

-L, –list-gpus

Display a list of GPUs connected to the system.

参数

详解

-i,–id=

Target a specific GPU.

-f,–filename=

Log to a specified file, rather than to stdout.

-l,–loop=

Probe until Ctrl+C at specified second interval.

参数

详解

-q,

–query

-u,–unit

Show unit, rather than GPU, attributes.

-i,–id=

Target a specific GPU or Unit.

-f,–filename=

Log to a specified file, rather than to stdout.

-x,–xml-format

Produce XML output.

–dtd

When showing xml output, embed DTD.

-d,–display=

Display only selected information: MEMORY,

-l, –loop=

Probe until Ctrl+C at specified second interval.

-lms, –loop-ms=

Probe until Ctrl+C at specified millisecond interval.

参数

详解

补充

–query-gpu=

Information about GPU.

Call –help-query-gpu for more info.

–query-supported-clocks=

List of supported clocks.

Call –help-query-supported-clocks for more info.

–query-compute-apps=

List of currently active compute processes.

Call –help-query-compute-apps for more info.

–query-accounted-apps=

List of accounted compute processes.

Call –help-query-accounted-apps for more info.

–query-retired-pages=

List of device memory pages that have been retired.

Call –help-query-retired-pages for more info.

参数

命令

-i, –id=

Target a specific GPU or Unit.

-f, –filename=

Log to a specified file, rather than to stdout.

-l, –loop=

Probe until Ctrl+C at specified second interval.

-lms, –loop-ms=

Probe until Ctrl+C at specified millisecond interval.

参数

命令

补充

-pm, –persistence-mode=

Set persistence mode: 0/DISABLED, 1/ENABLED

-e, –ecc-config=

Toggle ECC support: 0/DISABLED, 1/ENABLED

-p, –reset-ecc-errors=

Reset ECC error counts: 0/VOLATILE, 1/AGGREGATE

-c, –compute-mode=

Set MODE for compute applications:

0/DEFAULT,1/EXCLUSIVE_THREAD (deprecated),2/PROHIBITED, 3/EXCLUSIVE_PROCESS

–gom=

Set GPU Operation Mode:

0/ALL_ON, 1/COMPUTE, 2/LOW_DP

-r –gpu-reset

Trigger reset of the GPU.

参数

命令

-t, –toggle-led=

Set Unit LED state: 0/GREEN, 1/AMBER

-i, –id=

Target a specific Unit.

参数

命令

–dtd

Print device DTD and exit.

-f, –filename=

Log to a specified file, rather than to stdout.

-u, –unit

Show unit, rather than device, DTD.

–debug=

Log encrypted debug information to a specified file.

参数

命令

补充

pmon

Displays process stats in scrolling format.

“nvidia-smi pmon -h” for more information.

参数

命令

补充

topo

Displays device/system topology. “nvidia-smi topo -h” for more information.

Please see the nvidia-smi(1) manual page for more detailed information.