容器服务支持在工作负载中使用 GPU 资源。本文主要介绍在负载中使用 NVIDIA GPU 进行调度的方法。 ## 步骤一：安装 nvidia\-device\-plugin 组件 1. 登录 [容器服务控制台](https://console.volcengine.com/vke/)。 2. 在顶部导航栏中选择您业务所在的地域。 3. 在左侧导航栏中选择 **集群**，单击目标集群。 4. 在集群管理页面的左侧导航栏中，选择 **组件管理**。 5. 在 **组件管理** 页面，单击 **GPU** 页签，找到 **nvidia\-device\-plugin** 组件，单击 **安装**。 ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_46c7fc136483b35692accf656863b8b3.png =600x) ## 步骤二：创建 GPU 计算型节点池 1. 在集群管理页面的左侧导航栏中，单击 **节点池**。 2. 在 **节点池** 页面，根据您的实际需求，参考 [创建节点池](https://www.volcengine.com/docs/6460/100955) 中的参数说明，创建节点池。其中，部分参数需按如下说明设置： * **Worker 节点配置** 处：**计算规格 ** 必须选择 **GPU 计算型**。该规格的详细介绍，请参见 [GPU 计算型](https://www.volcengine.com/docs/6396/100717)。 * （可选）**更多配置** 处：添加 key 为`vke.node.gpu.schedule`、Value 为`nvidia`的 **节点标签**，表示在该节点池中的节点上，开启 NVIDIA GPU 调度能力。 :::tip GPU 调度时使用的更多标签相关说明，请参见 [GPU 调度标签说明](https://www.volcengine.com/docs/6460/145015)。 ::: ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_e2c127fe01ea85106edc164e0a22c403.png =941x) ## 步骤三：在工作负载中配置资源配额本文以创建无状态负载（Deployment）为例。 * 通过控制台配置 1. 在集群管理页面的左侧导航栏中，选择 **工作负载** \> **无状态负载**。 2. 在 **无状态负载** 页面，创建无状态负载或更新已有的负载。详细操作，请参见 [创建无状态负载](https://www.volcengine.com/docs/6460/100971)、[更新无状态负载](https://www.volcengine.com/docs/6460/100970)。其中，**容器配置** 步骤的 **资源配额** 处，根据需求配置 **Nvidia 资源** 的 **GPU 算力** 和 **显卡类型**。 ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_abc42f2fbbd2f55cd8753339298fca28.png =940x) :::tip 根据工作负载所在的集群是否安装 mgpu 组件，控制台有如下不同显示： * 未安装 mgpu 组件：系统显示 **GPU 算力** 和 **显卡类型**，请按实际需求配置参数即可。 * 已安装 mgpu 组件：系统显示 **GPU 算力** 和 **GPU 显存** 配置项。在 NVIDIA GPU 调度场景中，**GPU 算力** 必须输入大等于 1 的整数，此时 **GPU 显存** 会变为 **显卡类型**，且系统会显示 **启用 nvidia 调度** 按钮。 NVIDIA GPU 调度场景，需要勾选 **启用 nvidia 调度** 按钮；若不勾选，表示不使用 NVIDIA GPU 调度，转为使用 mGPU 调度。mGPU 调度和 mgpu 组件目前是均为公测功能。 ::: * 通过 YAML 配置通过 YAML 配置 NVIDIA GPU 资源相关示例如下： ```yaml spec: affinity: nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: - matchExpressions: - key: machine.cluster.vke.volcengine.com/gpu-name # 使用 GPU 显卡调度 operator: In values: - Tesla-V100 # GPU 显卡类型 containers: - image: cr-helm2-cn-beijing.cr.volces.com/sonobuoy/nfs-provisioner:v3.0.1 imagePullPolicy: IfNotPresent name: doc-container resources: limits: nvidia.com/gpu: "1" # GPU 显卡数量 ``` ## 操作结果使用 NVIDIA GPU 调度后，通过云监控查看节点调度情况。下文以无状态负载（Deployment）为例。 1. 在集群管理页面的左侧导航栏中，选择 **工作负载** \> **无状态负载**。 2. 找到已使用 NVIDIA GPU 调度的工作负载，单击对应 **操作** 列中的`...` \> **查看监控**。系统会跳转到云监控控制台该工作负载的监控页面。您可以查看工作负载的 GPU 显存用量、GPU 使用率等信息。 ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_80db0fcce85bfd5bb7890d61e6f964ef.png =965x)