检查 GPU 架构兼容性

NVIDIA GeForce RTX 5070Ti 的架构可能为 Ada Lovelace（假设为 sm_89），而 PyTorch 默认安装的预编译版本通常支持 sm_50 到 sm_86。若提示 sm_120 不兼容，可能是 PyTorch 版本与 GPU 架构不匹配。

安装支持 Ada Lovelace 的 PyTorch

从源代码编译 PyTorch 或使用 nightly 版本以支持新架构：

pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu121

确保 CUDA 12.1+ 和 cuDNN 已安装，并验证驱动版本 ≥535.86（支持 RTX 5000 系列）。

强制修改 Torch 计算能力

若仍需使用稳定版 PyTorch，可尝试手动指定计算能力（需重新编译）：

1. 克隆 PyTorch 源码：

   git clone --recursive https://github.com/pytorch/pytorch
   cd pytorch
   

2. 修改 setup.py 中的 TORCH_CUDA_ARCH_LIST：

   os.environ["TORCH_CUDA_ARCH_LIST"] = "8.9"  # Ada Lovelace 计算能力
   

3. 编译并安装：

   python setup.py install
   

验证安装

运行以下 Python 代码检查兼容性：

import torch
print(torch.cuda.get_device_capability())  # 应输出 (8, 9)
print(torch.rand(10).to('cuda'))  # 测试张量计算

替代方案：使用 Docker

NVIDIA 官方容器可能已预装适配驱动：

docker run --gpus all -it nvcr.io/nvidia/pytorch:23.10-py3

注意事项

• 若问题持续，检查 NVIDIA 驱动日志（nvidia-smi 或 dmesg）。
• 部分 SD 模型可能需要手动修改 library_path 指向兼容的 CUDA 库。