GPU性能计算器是一个模型性能估算工具，旨在构建AI模型在不同GPU卡型和不同机型上的快速性能评估能力，可自动化计算出特定模型在特定卡型上的预估训练/推理性能数据，提供性能数据来辅助判断选型。 ## 使用场景 * 辅助采购决策对于需要搭建大规模计算集群的企业，如人工智能研究实验室、数据中心等，使用GPU性能计算器可以帮助预估不同GPU卡型在其特定工作负载下的性能表现，从而根据预算和性能需求做出合理的采购决策。 * 模型比较和选择当有多个模型时，利用评估工具对比它们在相同数据集上的性能表现，从而选择性能最优的模型进行部署和应用。 ## 使用地址 GPU性能计算器使用地址：[GPU性能计算器](https://www.volcengine.com/product/gpu-recommendation)。 ## 使用说明当前工具支持训练性能预估和推理性能预估，使用方法类似，均需填写模型结构和机型配置的相关参数，即可输出相应的性能预估数据。 ```mixin-react return ( 在GPU性能计算器的 训练性能预估 页签下，输入模型参数和机型配置的相关信息，即可获得针对该模型和机型的推荐训练参数、单卡显存占用情况、训练时长数据以及基于不同实例的性能信息。 |**参数** |**说明** | |---|---| |**输入** || |模型配置 |模型配置中预先存入了“Megatron\-GPT3\-175B”模型的相关参数。如果想要自行输入其他模型，修改相关参数即可自定义模型。 | |机型规格 |机型规格中已经预先存入了以下实例规格的配置参数，同时支持手动填写部分参数。如果有其他机型需要评估，请选择“自定义机型”并根据实例配置填写相关参数即可。|\ | ||\ | |* ecs.gni3cg.45xlarge|\ | |* ecs.ebmhpcpni2l.32xlarge|\ | |* ecs.ebmhpcpni3l.47xlarge | |训练参数 |单击“推荐训练参数设置”按钮，即可根据已选择的模型结构和机型配置输出推荐的训练参数。您也可以根据实际情况自行输入相关参数。|\ | |![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_723771203d729ef19f1f07e5790c49ec.png =701x) | |**输出** |单击“开始计算”按钮，即可得到以下计算结果。 | |显存占用计算 |即各参数对显存容量的占用情况评估。|\ | |![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_239807e6271cca69cbcc3ebf38a78cae.png =695x) | |训练时间计算 |模型训练中各部分的时间占比情况，并预估训练耗时。|\ | |![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_eecab992f6f094cb2b782c6061fecbac.png =687x) | |吞吐量 |吞吐量部分输出基于GPU性能计算器中提供的不同GPU卡型的性能数据。|\ | |![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_6070c7a8d2bc899c6005b2669491304e.png =688x) | `}> 在GPU性能计算器的 推理性能预估 页签下，输入模型结构和机型配置的相关信息，即可获得针对该模型和机型的推理时长数据以及基于火山不同实例的性价比信息。 `}>); ```

GPU云服务器