You need to enable JavaScript to run this app.
导航
如何调用在线服务(new)
最近更新时间:2024.12.12 17:42:42首次发布时间:2021.09.01 16:30:36

服务部署成功后即可通过访问地址及示例代码调用服务。

使用前提
  1. 【在线服务】中存在 >= 1 个服务。
  2. 待调用的服务状态为运行中
操作步骤
  1. 登录机器学习平台,单击左侧导航栏中的【模型服务】-【在线服务】进入列表页面。
  2. 在列表页单击某个服务名称进入详情页面,单击【调用指南】查看该服务的访问地址和示例代码。为方便理解,对以下参数做特别说明:
参数名称说明

API 网关调用

  • 当选择 API 网关时,支持域名调用方式,且支持开启「token 校验」。但 token 有效期默认为7天,请确保能及时更新。

  • 开启API 网关后且开启token校验后,服务调用方式参考:

curl 访问地址 -H "Authorization: Bearer + Token"
  • 支持四种监听/访问端口
    • HTTP 1.1

    • HTTP 2

    • GRPC

    • Metrics

CLB 调用

  • 当选择为 CLB 时,可以通过请求 IP:Port,即可访问服务。

    • 创建/升级服务时添加访问配置,服务会分配到对应的 私网IP / 公网IP。
  • 若服务没有添加访问配置,需要在实例列表中查看某个实例的 IP 和 Port。

    • 可以在开发机中通过 IP:PORT 访问某个服务实例提供的服务。
  • CLB 支持三种监听/访问端口

    • HTTP

    • RPC

    • Metrics

VPC 访问地址(单网卡)

  • 若服务添加了私有网络和子网,则会展示VPC访问地址。

  • 在与私网连通的机器上,通过请求该地址,可以访问服务。

VPC 访问地址(双网卡)

  • 若服务添加了私有网络、子网和负载均衡器,则会展示VPC访问地址。

  • 在与私网连通的机器上,通过请求该地址,可以访问服务。

公网访问地址

  • 若服务开启了公网访问,则会展示公网访问地址。

  • 在公网请求该地址,可以访问服务。

  1. 对于使用预置镜像的在线服务,平台提供了 HTTP 和 RPC 两种访问方式及示例代码。
    1. 将示例代码复制到一台与访问地址保持网络通畅的机器上,并根据模型的真实输入输出信息修改示例代码中的相关段落。

    2. 执行示例代码并喂入测试数据即可获取在线服务的推理结果。

  2. 对于使用非预置镜像的在线服务,用户需要根据镜像中的代码自行构造请求并通过访问地址调用服务。

alt