NVIDIA GPU 调度为容器服务中的基础 GPU 调度方式，允许容器占用一块或多块 GPU 整卡，并使用这些 GPU 卡的所有算力和显存。本文主要介绍在集群中使用 NVIDIA GPU 调度的配置方法。 ## 前提条件已安装 nvidia\-device\-plugin 组件。详情请参见 [安装组件](https://www.volcengine.com/docs/6460/101014)。 ## 操作步骤 ### 步骤一：创建 GPU 节点池 1. 登录 [容器服务控制台](https://console.volcengine.com/vke)。 2. 在左侧导航栏中选择 **集群**，单击目标集群名称，进入集群控制台。 3. 在左侧导航栏中，单击 **节点池**。 4. 在节点池配置页面中，单击 **创建节点池**，根据您的实际需求，创建节点池。详细参数说明，请参见 [创建节点池](https://www.volcengine.com/docs/6460/100955)。其中： * 在 **计算规格** 中，选择 **GPU 计算型** 规格，为集群添加包含 GPU 的节点。规格详细介绍，请参见 [GPU 计算型](https://www.volcengine.com/docs/6396/100717)。 * （可选）在 **高级配置** 中，单击 **添加节点标签**，为节点池添加 GPU 调度标签。本例中配置标签键为`vke.node.gpu.schedule`，标签值为`nvidia`。表示在该节点池中的节点上，开启 NVIDIA GPU 调度能力。

说明

GPU 调度使用的更多标签相关说明，请参见 GPU 调度概述。

5. 完成其他参数配置后，单击 **确定**，创建节点池。 ### 步骤二：配置工作负载本文以创建无状态负载（Deployment）为例进行介绍，详细创建步骤参见 [创建无状态负载](https://www.volcengine.com/docs/6460/100971)。 #### 通过控制台配置 1. 在集群管理页面的左侧导航栏中，选择 **工作负载** \> **无状态负载**。 2. 创建无状态负载或更新已有的负载。其中，在 **容器配置** 步骤的 **资源配额** 处，根据需求配置 GPU 资源 **。** |**配置项** |**说明** | |---|---| |GPU 资源类型 |本文中选择 **Nvidia**。 | |GPU 算力 |配置 Pod 申请使用的 GPU 整卡数量，正整数形式。例如配置为 1 时，表示申请 1 块 GPU 整卡。 | |显卡类型 |配置 Pod 需要调度的 GPU 节点。默认不限制型号，配置型号后将按照所选型号指定 GPU 节点。 |

说明

根据工作负载所在的集群是否安装 mgpu 组件，控制台有如下不同显示：

未安装 mgpu 组件：系统显示 GPU 算力 和 显卡类型，请按实际需求配置参数即可。

已安装 mgpu 组件：系统显示 GPU 算力 和 GPU 显存 配置项。在 NVIDIA GPU 调度场景中，GPU 算力 必须输入大等于 1 的整数，此时 GPU 显存 会变为 显卡类型，且系统会显示 启用 nvidia 调度 按钮。

NVIDIA GPU 调度场景，需要勾选 启用 nvidia 调度 按钮；若不勾选，表示不使用 NVIDIA GPU 调度，转为使用 mGPU 调度。mGPU 调度和 mgpu 组件目前是均为公测功能。

#### 通过 kubectl 命令行配置通过 YAML 创建工作负载，并实现 NVIDIA GPU 调度示例，如下所示： ```YAML apiVersion: apps/v1 kind: Deployment metadata: name: gpu-demo namespace: default spec: replicas: 1 selector: matchLabels: app: demo template: metadata: labels: app: demo spec: affinity: # （可选）使用亲和配置指定 GPU 卡型 nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: - matchExpressions: - key: machine.cluster.vke.volcengine.com/gpu-name operator: In values: - Tesla-V100 # 指定具体的 GPU 显卡类型 containers: - name: demo image: doc-cn-beijing.cr.volces.com/vke/gpu-burn:1.0 command: ["/bin/sh"] args: ["-c", "sleep infinity"] ports: - containerPort: 80 resources: limits: nvidia.com/gpu: "1" # GPU 显卡数量 ``` ## 结果验证 ### 查看 GPU 状态执行以下命令，登录容器查看容器被分配显存总量。 ```Bash kubectl exec -it gpu-demo nvidia-smi ``` 预期结果如下，可以看到 Pod 使用的 GPU 卡类型、驱动等信息。 ```Bash Tue Mar 3 08:18:08 2026 +---------------------------------------------------------------------------------------+ | NVIDIA-SMI 535.129.03 Driver Version: 535.129.03 CUDA Version: 12.2 | |-----------------------------------------+----------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |=========================================+======================+======================| | 0 NVIDIA A10 On | 00000000:65:01.0 Off | 0 | | 0% 31C P8 20W / 150W | 4MiB / 23028MiB | 0% Default | | | | N/A | +-----------------------------------------+----------------------+----------------------+ +---------------------------------------------------------------------------------------+ | Processes: | | GPU GI CI PID Type Process name GPU Memory | | ID ID Usage | |=======================================================================================| | No running processes found | +---------------------------------------------------------------------------------------+ ``` ### 查看 GPU 监控使用 NVIDIA GPU 调度后，支持通过云原生观测中的 AI 资源观测，查看 GPU 资源看板。详情请参见 [AI 资源观测](https://www.volcengine.com/docs/6460/1214011)。 ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_dc30ceb776354440babbf31c0e675e30.png)