nvidia-smi输出介绍

Posted on Views:

nvidia-smi输出信息

 [xxxx]# nvidia-smi 
Fri Jul 25 11:58:44 2025       
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.124.06             Driver Version: 570.124.06     CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA A10                     On  |   00000000:00:08.0 Off |                  Off |
|  0%   49C    P0             60W /  150W |    8586MiB /  24564MiB |      0%      Default |
|                                         |                        |                  N/A |

nvidia-smi 输出的是当前服务器上 NVIDIA GPU 的状态信息，包括驱动版本、CUDA 版本、各显卡的负载、温度、功耗和显存使用情况等。你当前输出对应的硬件是 NVIDIA A10

顶部信息（驱动、CUDA）

1
| NVIDIA-SMI 570.124.06             Driver Version: 570.124.06     CUDA Version: 12.8     |
  • NVIDIA-SMI 版本: 这是 nvidia-smi 工具的版本，与你安装的驱动版本匹配。
  • Driver Version: 570.124.06，表示当前安装的 GPU 驱动版本。
  • CUDA Version: 12.8，说明驱动支持最高 CUDA 12.8，程序编译时可使用该版本。

GPU 列表（目前只有一块 A10 卡）

1
2
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
|   0  NVIDIA A10                     On  |   00000000:00:08.0 Off |                  Off |
  • GPU 0: 表示第 0 块 GPU，是 NVIDIA A10。
  • Persistence-M: On 表示启用了持久化模式，能避免频繁启动 GPU 驱动，适合服务器环境。
  • Bus-Id: 00000000:00:08.0 是 PCIe 总线位置，可用于绑定设备。
  • Disp.A: Off 表示没有连接显示器（Display Active），多用于服务器。
  • Volatile Uncorr. ECC: Off 表示没有检测到瞬时不可纠正的 ECC 错误。

温度、功耗、显存、利用率

1
2
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|  0%   49C    P0             60W /  150W |    8586MiB /  24564MiB |      0%      Default |
  • Fan: 0%，风扇当前转速（百分比），这可能是因为温度不高或在静音模式。
  • Temp: 49℃，GPU 当前温度，正常。
  • Perf: P0 表示性能状态，P0 为最高性能级别（P0–P15，数字越小性能越高）。
  • Pwr:Usage/Cap: 当前功耗 60W，最大功耗 150W。
  • Memory-Usage: 当前使用 8586MiB 显存，共 24564MiB（24GB）。
  • GPU-Util: 0%，说明当前 GPU 几乎空闲，没在跑大算力任务。
  • Compute M.: Default，说明没有使用特定的多进程服务（MIG），使用默认模式。

MIG（Multi-Instance GPU）状态

1
|                                         |                        |                  N/A |
  • 对于这块 A10 卡，MIG（多实例 GPU）是 不支持或未启用，所以显示 N/A。

总结一下当前 GPU 状态

  • 驱动和 CUDA 支持版本都比较新（CUDA 12.8）。
  • GPU 型号是 NVIDIA A10，24GB 显存。
  • 当前温度正常，风扇很低（或未转动）。
  • 使用了约 8.5GB 显存，但是计算负载是 0%，推测可能加载了模型但未开始计算。
  • 当前没有 MIG 分区使用，处于默认单实例模式。