CUDA（Compute Unified Device Architecture）是NVIDIA推出的一種并行計算平臺和編程模型，用于利用GPU的強大計算能力。以下是在不同操作系統(tǒng)上搭建CUDA開發(fā)環(huán)境的詳細步驟：

一、準備工作

1. 檢查GPU兼容性

• 訪問NVIDIA官網(wǎng)，確認你的GPU支持CUDA（通常GeForce 8系列及以上、Quadro、Tesla等專業(yè)卡都支持）

• 記錄GPU型號，后續(xù)安裝驅(qū)動時需要

2. 檢查系統(tǒng)要求

• 操作系統(tǒng)：Windows 10/11、Linux（Ubuntu、CentOS等）、macOS（僅支持到CUDA 11.7）

• 至少8GB RAM（推薦16GB以上）

• 預(yù)留至少10GB磁盤空間

二、安裝NVIDIA驅(qū)動

1. 獲取最新驅(qū)動

• 訪問NVIDIA驅(qū)動下載頁面：https://www.nvidia.com/Download/index.aspx

• 選擇對應(yīng)GPU型號、操作系統(tǒng)版本，下載最新穩(wěn)定版驅(qū)動

2. 安裝驅(qū)動

• Windows：雙擊安裝程序，按提示完成安裝（需重啟）

• Linux：

• 禁用nouveau驅(qū)動（開源驅(qū)動，會與NVIDIA驅(qū)動沖突）

     sudo vim /etc/modprobe.d/blacklist-nouveau.conf
     # 添加以下內(nèi)容
     blacklist nouveau
     options nouveau modeset=0
     # 保存后更新initramfs
     sudo update-initramfs -u
     # 重啟系統(tǒng)
     sudo reboot

• 進入tty模式（Ctrl+Alt+F1），停止圖形界面

     sudo systemctl stop lightdm  # Ubuntu/Debian
     sudo systemctl stop gdm      # Fedora/CentOS

• 運行驅(qū)動安裝程序

     chmod +x NVIDIA-Linux-x86_64-*.run
     sudo ./NVIDIA-Linux-x86_64-*.run

• 安裝完成后重啟系統(tǒng)

3. 驗證驅(qū)動安裝

nvidia-smi
# 應(yīng)顯示GPU信息、驅(qū)動版本等

三、安裝CUDA Toolkit

1. 下載CUDA Toolkit

• 訪問NVIDIA CUDA下載頁面：https://developer.nvidia.com/cuda-downloads
• 選擇操作系統(tǒng)、架構(gòu)、版本等信息
• 推薦下載最新穩(wěn)定版（如CUDA 12.x）

2. 安裝CUDA Toolkit

• Windows：運行下載的安裝程序，選擇自定義安裝（可取消勾選Visual Studio集成）
• Linux：
• 以.run文件為例：

     chmod +x cuda_*.run
     sudo ./cuda_*.run --silent --toolkit --samples --toolkitpath=/usr/local/cuda

• 或使用包管理器安裝（以Ubuntu為例）：

     wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
     sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
     wget https://developer.download.nvidia.com/compute/cuda/12.2.0/local_installers/cuda-repo-ubuntu2004-12-2-local_12.2.0-535.54.03-1_amd64.deb
     sudo dpkg -i cuda-repo-ubuntu2004-12-2-local_12.2.0-535.54.03-1_amd64.deb
     sudo cp /var/cuda-repo-ubuntu2004-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/
     sudo apt-get update
     sudo apt-get -y install cuda

3. 配置環(huán)境變量

• Windows：安裝程序會自動配置
• Linux：

     # 編輯 /.bashrc或 /.zshrc
     echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
     echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
     source ~/.bashrc

. 驗證CUDA安裝

nvcc --version
# 應(yīng)顯示CUDA版本信息# 編譯并運行示例
cd /usr/local/cuda/samples/1_Utilities/deviceQuery
make
./deviceQuery
# 應(yīng)顯示GPU信息和CUDA支持情況

四、安裝cuDNN（深度學(xué)習(xí)加速庫）

1. 注冊NVIDIA開發(fā)者賬號

• 訪問：https://developer.nvidia.com/
• 注冊并登錄賬號

2. 下載cuDNN

• 訪問：https://developer.nvidia.com/cudnn
• 選擇與CUDA版本匹配的cuDNN版本
• 下載對應(yīng)操作系統(tǒng)的庫文件（通常是壓縮包）

3. 安裝cuDNN

• Windows：
• 解壓下載的文件
• 將bin、include、lib目錄中的文件復(fù)制到CUDA安裝目錄對應(yīng)的文件夾中
• Linux：

     # 解壓下載的文件
     tar -xzvf cudnn-*.tgz
     # 復(fù)制文件到CUDA目錄
     sudo cp cuda/include/cudnn*.h /usr/local/cuda/include
     sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
     sudo chmod a+r /usr/local/cuda/include/cudnn .h /usr/local/cuda/lib64/libcudnn 

五、安裝CUDA相關(guān)庫和工具

1. 安裝NCCL（多GPU通信庫）

# Ubuntu/Debian
sudo apt-get install libnccl2 libnccl-dev# 或從源碼安裝

2. 安裝TensorRT（高性能推理庫）

• 訪問：https://developer.nvidia.com/tensorrt
• 下載并安裝適合你的CUDA版本的TensorRT

六、測試環(huán)境

1. 編譯并運行CUDA示例

# 編譯向量加法示例
cd /usr/local/cuda/samples/1_Utilities/vectorAdd
make
./vectorAdd
# 應(yīng)顯示計算結(jié)果和性能統(tǒng)計

2. 使用PyTorch或TensorFlow測試GPU支持

# PyTorch
import torch
print(torch.cuda.is_available())  # 應(yīng)返回True
print(torch.cuda.device_count())  # 應(yīng)返回GPU數(shù)量# TensorFlow
import tensorflow as tf
print(tf.test.is_gpu_available())  # 應(yīng)返回True

七、常見問題及解決方法

1. 驅(qū)動與CUDA版本不兼容

• 檢查NVIDIA官網(wǎng)的CUDA兼容性矩陣
• 升級/降級驅(qū)動或CUDA版本

2. Linux安裝驅(qū)動后黑屏

• 進入tty模式，卸載驅(qū)動重新安裝
• 檢查nouveau是否已禁用

3. 環(huán)境變量未生效

• 確認路徑正確
• 使用`echo $PATH`檢查變量是否正確設(shè)置
• 嘗試重啟終端或系統(tǒng)

4. cuDNN安裝問題

• 確認cuDNN版本與CUDA版本匹配
• 檢查文件權(quán)限是否正確

?