本文介绍了如何管理自定义模型(基于 Triton 推理框架)的版本,具体包括以下操作:编辑、发布、部署、删除。
登录边缘智能控制台。
在左侧导航栏顶部的 我的项目 区域,选择您的项目。
在左侧导航栏,选择 边缘推理 > 模型管理。
在 自定义模型 列表,找到需要操作的模型,单击模型名称。
注意
请选择一个 推理框架 为 Triton 框架 的模型。
单击 版本管理 页签。
您将会看到当前模型下包含的 版本 列表。版本支持的 操作 包括:编辑、发布、部署、删除。以下是对这些操作的详细说明。
当版本处于 草稿 状态时,您可以编辑该版本。
通过编辑版本,您可以修改版本的参数配置。除 名称 外的配置项均可修改。
当版本处于 草稿 状态时,您可以发布该版本。
只有当版本发布后,才可用于部署模型服务。版本一旦发布,其参数配置将无法修改。
发布完成后,版本的 状态 会变为 已发布。
当版本处于 已发布 状态时,您可以部署该版本。
部署版本表示使用该版本的模型文件,向指定边缘节点部署一个模型服务。
完成以上操作后,您可以在 模型服务 标签页查看刚刚部署的模型服务。当模型服务的 状态 变为 运行中,表示部署成功。
在版本未被部署(即处于 草稿 或 已发布 状态)的前提下,您可以删除该版本。
版本被删除后,其记录将无法查询且无法恢复。