You need to enable JavaScript to run this app.
导航
查看推理服务信息
最近更新时间:2025.03.07 16:36:44首次发布时间:2024.05.31 16:09:26
我的收藏
有用
有用
无用
无用

推理服务启用后,您可以查看推理服务的信息,包含推理服务的配置信息、模型的访问地址和调用信息,以及推理服务的运行日志。

功能入口

  1. 登录云搜索服务控制台
  2. 在顶部导航栏,选择目标项目和地域。
  3. 在左侧导航栏选择 AI 搜索,查找并单击目标服务名称。
  4. 在左侧导航栏选择推理服务,然后单击目标推理服务的名称。

查看推理服务的配置信息

基本信息页签下,您可以查看推理服务的配置信息,包括服务名称、可用区、资源配置、自定义参数等信息。
Image

查看模型访问地址和调用信息

  • 单击查看调用信息,即可查看并获取模型的 OpenSearch 插件调用地址信息。如何使用插件地址调用模型,请参见Text Embedding 模型使用案例
    Image
  • 单击私网调用信息公网调用信息,查看模型的调用信息。替换掉调用信息中的**$API_KEY**,即可在 ECS 中直接调用模型。
  • 对于 RAG 类型模型,您可以单击效果测试,系统将为打开一个 Web 页面用于测试。
    更多信息,请参见结果验证:访问 RAG 推理服务(智能问答)

查看推理服务的运行日志

日志页签下,您可以查看推理服务的运行日志。支持根据时间范围、日志等级、关键字等方式,精准查看日志。

说明

只能查询 7 日内的日志。在日志保留期间,可以查看历史日志。

Image

查看推理服务的调用示例

调用示例页签下,您可以查看推理服务的调用方法。目前支持 API Key 授权方式。
在 AI 搜索中创建 API Key 后,使用 API Key 获得推理服务的调用权限。您可以在 查看 API Key 页面获取 API Key,在环境变量中进行设置,参考调用示例对推理服务进行调用。
Image