GPU 计算型--容器服务-火山引擎

文档中心

导航

GPU 计算型

最近更新时间：2024.04.29 12:04:37首次发布时间：2023.08.29 10:57:21

弹性容器实例的 GPU 计算型规格，基于多种 NVIDIA Tesla 显卡，在各类推理场景及分子计算场景下提供高性价比使用体验。

请参考下方介绍选择符合您实际业务需求的 VCI GPU 计算型实例规格。

规格族	描述
GPU 计算型 gni3（vci.gni3）	NVIDIA GPU 显卡，适用于大规模部署的生成式 AI 推理等场景，支持 NVIDIA RTX™ 功能，提供高性能的 3D 图形虚拟化能力。
GPU 计算型 gni2（vci.gni2）	A10 显卡，适用于深度学习的推理场景和小规模训练场景，支持 NVIDIA RTX™ 功能，提供高性能的 3D 图形虚拟化能力。
GPU 计算型 ini2（vci.ini2）	A30 显卡，具有强大的双精度浮点运算能力和较高的深度学习推理吞吐量，适用于大规模 AI 推理、深度学习小规模训练等场景，但不支持图片或视频渲染。
GPU 计算型 g1v（vci.g1v）	V100 显卡，适用于图像分类、无人驾驶、语音识别等人工智能算法的深度学习训练应用，以及计算流体动力学、计算金融学、分子动力学、环境分析等科学计算场景。

说明

各地域（Region）和可用区（AZ）支持的规格不同，详情请参见地域和可用区。

GPU 计算型 gni3

说明

【邀测·申请试用】：该规格的弹性容器实例目前处于邀测阶段，如需使用，请提交申请。

特点

类型	性能
计算	采用第四代英特尔® 至强® 可扩展处理器（Sapphire Rapids）。 GPU 显卡：NVIDIA GPU（单卡 24 GB 显存），单台实例最多支持挂载 4 张显卡。
存储	支持极速型 SSD 云盘，最多可挂载 16 块云盘（包含一块系统盘）。存储 I/O 性能与计算规格相关，规格越高，性能越强。
网络	网络性能与计算规格相关，规格越高，性能越强。

适用场景

该规格提供的 AI 视频性能比基于 CPU 的视频性能解决方案高 120 倍，适用于如下场景：
- 大规模部署的生成式 AI 推理场景。
- 加速视频、AI 和图形工作负载场景。
支持 NVIDIA RTX™ 功能，提供高性能的 3D 图形虚拟化能力，适用于如下场景如：
- 图形图像处理。
- 视频编解码。
- 图形数据库。

使用方式

GPU 计算型 gni3 规格实例的使用方法，请参见指定 VCI 规格创建 GPU 计算型实例和指定容器 GPU 资源创建 GPU 计算型实例。

规格列表

实例规格	vCPU	内存（GiB）	GPU 数量	GPU 显存(GB)
vci.gni3.12c-64gi	12	64	GPU × 1	24 × 1
vci.gni3.24c-128gi	24	128	GPU × 2	24 × 2
vci.gni3.48c-256gi	48	256	GPU × 4	24 × 4

GPU 计算型 gni2

说明

该规格的弹性容器实例目前限量提供。若有需求请提交工单申请。

特点

类型	性能
计算	采用第三代英特尔® 至强® 可扩展处理器（Ice Lake），主频 2.3 GHz，全核睿频 3.0 GHz。处理器与内存配比为 1:4。最大支持 112 vCPU，448 GiB 内存。 GPU 显卡：NVIDIA A10（单卡 24 GB 显存），单台实例最多支持挂载 4 张显卡。
存储	极速型 SSD 云盘。存储 I/O 性能与计算规格相关，规格越高，性能越强。
网络	最大网络带宽：80 Gbit/s。最大网络收发包：1000 万 PPS。网络性能与计算规格相关，规格越高，性能越强。

适用场景

适用于深度学习的推理场景和小规模训练场景，例如：
- 大规模部署的 AI 推理。
- 深度学习小规模训练。
支持 NVIDIA RTX™ 功能，提供高性能的 3D 图形虚拟化能力，适用于如下场景：
- 图形图像处理。
- 视频编解码。
- 图形数据库。

使用方式

GPU 计算型 gni2 规格实例的使用方法，请参见指定 VCI 规格创建 GPU 计算型实例和指定容器 GPU 资源创建 GPU 计算型实例。

规格列表

实例规格	vCPU	内存（GiB）	GPU 数量	GPU 显存(GB)
vci.gni2.26c-112gi	26	112	A10 × 1	24 × 1
vci.gni2.54c-224gi	54	224	A10 × 2	24 × 2
vci.gni2.108c-448gi	108	448	A10 × 4	24 × 4

GPU 计算型 ini2

说明

该规格的弹性容器实例目前限量提供。若有需求请提交工单申请。

特点

类型	性能
计算	采用第三代英特尔® 至强® 可扩展处理器（Ice Lake），主频 2.3 GHz，全核睿频 3.0 GHz。处理器与内存配比为 1:9。最大支持 108 vCPU，972 GiB 内存。 GPU 显卡：NVIDIA A30（单卡 24 GB 显存），单台实例最多支持挂载 4 张显卡。
存储	极速型 SSD 云盘。存储 I/O 性能与计算规格相关，规格越高，性能越强。
网络	最大网络带宽：80 Gbit/s。最大网络收发包：1000 万 PPS。网络性能与计算规格相关，规格越高，性能越强。

适用场景

大规模部署的 AI 推理。
深度学习小规模训练，图像识别、语音识别等。
不支持图片、视频渲染。

使用方式

GPU 计算型 ini2 规格实例的使用方法，请参见指定 VCI 规格创建 GPU 计算型实例和指定容器 GPU 资源创建 GPU 计算型实例。

规格列表

实例规格	vCPU	内存（GiB）	GPU 数量	GPU 显存(GB)
vci.ini2.26c-243gi	26	243	A30 × 1	24 × 1
vci.ini2.52c-486gi	52	486	A30 × 2	24 × 2
vci.ini2.108c-972gi	108	972	A30 × 4	24 × 4

GPU 计算型 g1v

说明

该规格的弹性容器实例目前限量提供。若有需求请提交工单申请。

特点

类型	性能
计算	采用第二代英特尔® 至强® 可扩展 Xeon Platinum 8260 处理器（Cascade Lake）：主频 2.4 GHz，全核睿频 3.1 GHz。处理器与内存配比为 1:4。 GPU 显卡：NVIDIA Tesla V100（单卡 32 GB 显存），单台实例最多支持挂载 8 张显卡。
存储	支持极速型 SSD 云盘，最多可挂载 16 块云盘（包含一块系统盘）。存储 I/O 性能与计算规格相关，规格越高，性能越强。
网络	网络性能与计算规格相关，规格越高，性能越强。

适用场景

深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用。
科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等。

使用方式

GPU 计算型 g1v 规格实例的使用方法，请参见指定 VCI 规格创建 GPU 计算型实例和指定容器 GPU 资源创建 GPU 计算型实例。

规格列表

实例规格	vCPU	内存（GiB）	GPU 数量	GPU 显存（GB）
vci.g1v.2xlarge	8	32	Tesla V100 × 1	32 × 1
vci.g1v.4xlarge	16	64	Tesla V100 × 2	32 × 2
vci.g1v.8xlarge	32	128	Tesla V100 × 4	32 × 4
vci.g1v.20xlarge	80	320	Tesla V100 × 8	32 × 8