torch 无法使用显卡 pytorch 无法使用 gpu：原因、排查与解决方案

torch 无法使用显卡 pytorch 无法使用 gpu：原因、排查与解决方案

当您遇到 **torch 无法使用显卡** 或 **pytorch 无法使用 gpu** 的问题时，通常意味着 PyTorch 无法正确检测或调用您的 GPU 进行计算。这可能是由多种原因造成的，包括驱动程序、CUDA 版本、PyTorch 安装、环境配置或硬件本身的问题。

核心原因：

• GPU 驱动程序未正确安装或版本过旧： 这是最常见的原因。GPU 厂商（NVIDIA、AMD）需要提供与 CUDA 兼容的驱动程序，PyTorch 依赖这些驱动程序来访问 GPU。
• CUDA Toolkit 版本不兼容： PyTorch 需要特定版本的 CUDA Toolkit 来支持 GPU 加速。如果安装的 CUDA 版本与 PyTorch 版本不匹配，就会出现问题。
• cuDNN 版本不兼容： cuDNN（CUDA Deep Neural Network library）是一个加速深度神经网络的库，PyTorch 也依赖它。cuDNN 版本也需要与 CUDA 和 PyTorch 版本兼容。
• PyTorch 安装时未正确选择 GPU 版本： 在安装 PyTorch 时，如果选择了 CPU 版本（`cpu`），则无法使用 GPU。
• 环境变量配置错误： CUDA 和 cuDNN 的路径可能未正确添加到系统的环境变量中，导致 PyTorch 无法找到它们。
• GPU 本身存在硬件问题： 尽管可能性较低，但 GPU 硬件故障也可能导致无法使用。
• 多个 GPU 之间的冲突或配置问题： 在拥有多个 GPU 的系统中，配置不当可能导致 PyTorch 无法正确识别或使用目标 GPU。

以下将详细探讨这些原因，并提供相应的排查和解决方案。

一、 检查 GPU 驱动程序

GPU 驱动程序是 PyTorch 使用 GPU 的基础。确保您的驱动程序已正确安装且版本是最新的，或者至少与您计划使用的 CUDA 版本兼容。

1. 检查 GPU 是否被系统识别：

Windows:

1. 右键点击“此电脑”或“我的电脑”，选择“管理”。
2. 在“计算机管理”窗口中，选择“设备管理器”。
3. 展开“显示适配器”，查看您的 GPU 是否在此列出，并且没有黄色感叹号。

Linux:

打开终端，执行以下命令：

lspci | grep -i nvidia

如果显示了您的 NVIDIA GPU 信息，则表示系统已识别。

2. 检查 GPU 驱动程序版本：

Windows:

1. 在 NVIDIA 控制面板中，选择“帮助”->“系统信息”。
2. 在“驱动程序版本”字段中查看当前版本。

Linux:

在终端执行以下命令：

nvidia-smi

输出的顶部会显示驱动程序版本（Driver Version）。

3. 更新或重新安装驱动程序：

访问您的 GPU 制造商（NVIDIA、AMD）的官方网站，下载并安装适用于您操作系统和 GPU 型号的最新驱动程序。安装完成后，重启您的计算机。

二、 检查 CUDA Toolkit 和 cuDNN 版本

PyTorch 需要与特定版本的 CUDA Toolkit 和 cuDNN 配合使用。不兼容的版本是导致 **pytorch 无法使用 gpu** 的常见原因。

1. 确定 PyTorch 支持的 CUDA 版本：

在 PyTorch 官方网站的安装页面，您可以找到不同 PyTorch 版本支持的 CUDA 版本。例如，如果您安装了 PyTorch 1.10，它可能需要 CUDA 11.1 或 CUDA 11.3。

2. 检查已安装的 CUDA 版本：

Windows:

1. 打开命令提示符或 PowerShell。
2. 输入 nvcc --version 并回车。

Linux:

在终端执行：

nvcc --version

3. 检查已安装的 cuDNN 版本：

cuDNN 的版本信息通常存储在其安装目录下的头文件中，或者在 NVIDIA 的 CUDA Toolkit 安装目录中可以找到相关文件。

• 查找 cuDNN 库文件（例如 `cudnn.h` 或 `cudnn64_8.dll`），查看其中的版本信息。
• 如果安装了多个 CUDA 版本，请确保 cuDNN 的版本与您正在使用的 CUDA 版本相匹配。

4. 安装或更新 CUDA Toolkit 和 cuDNN：

• 访问 NVIDIA 官方网站，下载与您 GPU 驱动程序和 PyTorch 版本兼容的 CUDA Toolkit。
• 下载与您的 CUDA Toolkit 版本兼容的 cuDNN 库，并按照 NVIDIA 提供的说明将其文件复制到 CUDA Toolkit 的相应目录中。

三、 验证 PyTorch 安装

确保您安装的是支持 GPU 的 PyTorch 版本。

1. 检查 PyTorch 是否为 GPU 版本：

在 Python 交互环境中，执行以下代码：

import torch
print(torch.cuda.is_available())

如果输出为 True，则表示 PyTorch 已成功检测到 GPU。如果输出为 False，则需要检查安装。

2. 检查 PyTorch 版本和 CUDA 版本：

在 Python 交互环境中，执行以下代码：

import torch
print(torch.__version__)
print(torch.version.cuda)

这将显示您安装的 PyTorch 版本以及与之关联的 CUDA 版本。确保这些版本与您系统中安装的 CUDA Toolkit 版本兼容。

3. 重新安装 PyTorch（如果需要）：

如果发现安装错误，建议卸载当前版本的 PyTorch，然后根据官方文档中的说明，使用正确的命令进行安装。例如，使用 pip 安装支持 CUDA 11.3 的 PyTorch：

pip uninstall torch torchvision torchaudio
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu113

请根据您的实际 CUDA 版本替换 cu113。

四、 检查环境变量配置

正确配置环境变量可以让系统找到 CUDA 和 cuDNN 的安装路径。

1. Windows 环境变量：

1. 搜索“编辑系统环境变量”，打开“系统属性”。
2. 点击“环境变量”按钮。
3. 在“系统变量”或“用户变量”中，确保 PATH 变量包含了 CUDA 和 cuDNN 的 `bin` 目录路径。例如：C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.3in

2. Linux 环境变量：

编辑您的 shell 配置文件（如 .bashrc, .zshrc）：

export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

然后重新加载配置文件：source ~/.bashrc 或 source ~/.zshrc。

五、 检查 GPU 内存和显存占用

有时，显存不足也可能导致 PyTorch 报错，虽然不是直接的“无法使用 GPU”，但会影响 GPU 计算的执行。

• 使用 nvidia-smi 命令查看 GPU 的显存占用情况。
• 如果显存不足，尝试减小批量大小（batch size），释放其他不必要的 GPU 资源，或者使用更小的模型。

六、 针对多 GPU 的配置

如果您有多个 GPU，PyTorch 默认会使用第一个 GPU (ID 0)。您可以指定使用哪个 GPU。

• 使用 torch.cuda.set_device(device_id) 来选择特定的 GPU。
• 使用 os.environ["CUDA_VISIBLE_DEVICES"] = "0,1" 来指定可见的 GPU。

七、 硬件问题排查

如果以上软件层面的排查都无法解决问题，则需要考虑 GPU 本身是否存在硬件故障。可以尝试在不同的计算机上测试 GPU，或者联系 GPU 制造商寻求技术支持。

通过以上详细的排查步骤，您应该能够定位并解决 **torch 无法使用显卡** 或 **pytorch 无法使用 gpu** 的问题，从而顺利地利用 GPU 进行深度学习的训练和推理。