【Bug解决】NVIDIA GeForce RTX 3090 with CUDA capability sm_86 is not compatible with ...

报错描述

NVIDIA GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_37 sm_50 sm_60 sm_70.
If you want to use the NVIDIA GeForce RTX 3090 GPU with PyTorch, please check the instructions at https://pytorch.org/get-started/locally/
1
2
3

错误描述： CUDA capability sm_86 是说当前 GPU 3090 算力是 8.6，与安装的 PyTorch 版本不匹配。虽然错误描述里说的是 PyTorch，但实际上是说 PyTorch 依赖的 CUDA 版本（因为我们安装的是 CUDA 版本的 PyTorch，如果使用 CPU 版的就不会有这个问题）。所以说，当前的 PyTorch CUDA 版本支持算力为只有 3.7、5.0、6.0、7.0，低于 GPU 3090 算力。

关于 GPU 算力和 CUDA 算力的关系是：

• 算力 8.0 的显卡可以在最高支持算力 8.6 的 CUDA 下正常运行
• 但算力 8.6 的显卡不能在最高支持算力 8.0 的 CUDA 下正常运行
• 也就是说 CUDA 支持的最高算力要大于等于GPU本身的算力

关于版本问题：

• CUDA 10.x 最高支持算力为 7.x，CUDA 11.x 最高支持算力为 8.x

报错环境：

• Linux：Ubuntu 18.04
• GPU：NVIDIA GeForce RTX 3090
• CUDA：11.3
• Pytorch：1.9.0
• Python：3.8.10
• GCC：7.5.0

解决方案

在 PyTorch官网 下载合适的 Pytorch 版本，CUDA 11.6 最高支持算力是 8.6，所以就下载支持 CUDA 11.6 以上的 PyTorch 版本（目前最高也就是 11.6 了）。

# 首先卸载已有的pytorch
pip uninstall torch
pip uninstall torchvision
pip uninstall torchaudio
# 安装
pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu116
1
2
3
4
5
6

安装成功，查看 torch 版本：

类似的问题还有：【Bug解决】nvcc fatal : Unsupported gpu architecture ‘compute_86‘