本文介绍了如何使用自定义模型,向边缘节点部署一个模型服务。
前提条件
- 您已经创建了自定义模型。相关操作,请参见创建一个自定义模型。
- 您的自定义模型下有 已发布 的模型版本。
根据自定义模型的 推理框架 不同,创建和发布版本的操作有差异:
操作步骤
登录边缘智能控制台。
在左侧导航栏,从 我的项目 下拉列表选择一个项目。
- 在左侧导航栏,选择 边缘推理 > 模型管理。
- 在 自定义模型 列表,找到您的模型,单击模型名称。
- 在模型详情页面,单击 模型服务 页签,然后单击 部署模型服务。
- 在 部署模型服务 页面,完成相关参数的配置,然后单击 确认。
根据自定义模型的 推理框架 不同,需要完成的参数配置不同。具体配置项说明,请分别参见:
完成以上操作后,您可以在 模型服务 列表看到刚刚部署的模型服务。当模型服务的状态变为 运行中,表示模型服务已经部署成功。