CUDA工具包介绍
CUDA（Compute Unified Device Architecture）是NVIDIA推出的运算平台，该平台使GPU能够解决复杂的计算问题，包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。
GPU云服务器采用NVIDIA显卡，则需要安装CUDA开发运行环境。建议您安装最新版本的CUDA驱动，适用于任何Linux或Windows发行版，包括CentOS、Ubuntu、Debian、Windows等。
操作场景
如果您在创建GPU实例时未同时安装CUDA，则需要在创建GPU实例后，参考本文手动安装CUDA工具包。
说明
- 为方便使用，您可以在创建GPU实例时，选择支持自动安装或者预装了特定版本GPU驱动和CUDA的公共镜像，详情请参见NVIDIA驱动安装指引。
- 请确认GPU驱动版本与CUDA工具包版本兼容，详情可查看NVIDIA CUDA Toolkit Release Notes。
前提条件
您已购买GPU实例，并为其绑定公网IP，使其具备访问公网的能力。
安装CUDA工具包（Linux）
登录CUDA下载，选择与GPU实例匹配的操作系统和版本。本文以为Ubuntu 20.04 64位的镜像安装CUDA 12.3为例，如下图所示。
说明
CUDA有2种安装方式：runfile和deb，建议使用runfile安装，这种方式不需要处理依赖包，更简单快捷。
选择完成后，出现以下页面，复制安装命令。
执行步骤2中获取的命令。执行第二条命令时，请参考以下说明依次完成操作。
- 在安装界面输入“accept”，回车进入下一步。
- 按键盘上下键选中“Install”，回车确认，开始安装。
说明
如果您的云服务器已安装GPU驱动，此处请按回车键取消勾选GPU驱动后再安装，如下图所示。
安装完成以后，执行以下命令可以看到CUDA版本，说明CUDA已安装成功。
/usr/local/cuda/bin/nvcc -V
安装CUDA工具包（Windows）
在远程桌面中，通过浏览器访问CUDA下载，选择与GPU实例匹配的操作系统和版本。
选择完成后，出现以下页面，单击“Base Installer”右侧的“Download”按钮，下载CUDA。
下载完成后，打开工具包所在文件夹，双击安装文件，按提示完成安装。
安装完成后，在桌面单击右键，可以看到“NVIDIA控制面板”程序，单击后选择控制面板左下角的“系统信息”按钮，选择“组件”页签，可以查看CUDA版本。
