You need to enable JavaScript to run this app.
导航
创建 ML 服务
最近更新时间:2024.11.01 11:11:45首次发布时间:2024.05.15 11:57:47

伴随着语言大模型的兴起,云搜索服务提供了机器学习功能,您可以在实例中开启 ML 服务,并部署不同的模型服务,以适用于搜索相关性、语义分析、以图搜图、音视频识别、向量搜索等不同业务场景。

注意事项

  • 仅 OpenSearch 实例支持 ML 服务功能。
  • 启用 ML 服务后,启动任务和模型将占用 ML 服务资源,系统将根据 ML 服务的实际资源使用量进行计费。详细计费详情,请参见计费项说明
  • ML 服务资源与 OpenSearch 实例的常规节点彼此独立,与常规的计算资源不互通,仅服务于任务和模型。

前提条件

已提前创建 OpenSearch 2.9.0 版本实例,并获取实例名称。如何创建实例,请参见创建实例

操作步骤

  1. 登录云搜索服务控制台

  2. 在顶部导航栏,选择目标项目和地域。

  3. 在左侧导航栏选择 ML 服务,然后单击创建 ML 服务

  4. 创建 ML 服务页面,设置 ML 服务名称,选择目标 OpenSearch 实例,然后配置资源和网络信息。
    Image

    配置分类

    配置

    说明

    基本信息

    服务名称

    自定义设置 ML 服务名称。

    • 不能以数字、中划线(-)开头。
    • 只能包含中文、字母、数字、下划线(_)和中划线,长度为 1~128 个字符。

    实例名称

    从下拉列表中选择目标 OpenSearch 实例。支持根据实例名称的关键字进行模糊搜索。

    说明

    仅 OpenSearch 2.9.0 版本实例支持 ML 服务功能。

    资源配置

    资源类型

    目前支持 CPU 和 GPU 两种资源类型,确认使用时,请勾选启用。您可以只选择启用 CPU 或 GPU 中的一种,也可以同时启用两种类型。

    注意

    如果您需要在 ML 服务中创建并运行 AI 任务,那么必须启用 CPU 资源类型,否则不能配置 Header 节点资源。

    CPU

    当您启用 CPU 资源类型时,需要选择资源比例,即 CPU 和内存的比例。
    目前支持1:21:41:8三种比例,不同比例的价格不相同,以界面显示为准。如需了解计费详情,请参见计费项说明

    GPU

    当您启用 GPU 资源类型时,需要选择 GPU 卡类型
    目前支持L4A10A30L20V100五种类型,支持选用多种 GPU 卡类型。不同类型的价格不相同,以界面显示为准。如需了解计费详情,请参见计费项说明

    说明

    • A10A30两种 GPU 卡类型,只有在可用区 B 部署的实例才可以选用。
    • 如果某种 GPU 卡类型提示已售罄,请选择其他类型的 GPU 卡。

    网络信息

    公网访问

    是否为 ML 服务启用公网访问。打开公网访问开关后,还需要设置公网带宽,系统将为 ML 服务分配独享带宽的公网访问。
    开通公网访问会产生额外费用,费用详细说明请参见公网带宽费用

  5. 完成 ML 服务参数配置后,阅读并勾选相关协议,然后单击确定