问题列表

• 什么是大模型网关？
• 如何创建网关访问密钥?
• 使用大模型网关有什么优势？
• 大模型网关支持哪些模型?
• 什么是调用渠道？

问题详情

什么是大模型网关？

大模型网关（AI Gateway）允许您通过一个 API 接口访问多家大模型提供商的模型与智能体。大模型网关部署在遍布全球的边缘计算节点上，使端侧应用能够就近接入，显著提高模型访问速度；内置语义缓存机制，减少模型调用请求的回源次数，为终端用户提供更快速、更可靠的 AI 服务体验。

如何创建网关访问密钥?

网关访问密钥是您访问大模型网关的身份凭证，用于管理访问者的权限，如授权、鉴权、限流等。您可以在 网关访问密钥管理 页面创建网关访问密钥。具体操作，请参见创建网关访问密钥。

使用大模型网关有什么优势？

• 接口标准化：与 OpenAI 的 API 和 SDK 完全兼容，方便集成，降低适配成本。
• 多种大模型：支持请求15+大模型提供商的大模型与智能体。
• 边缘缓存：利用边缘缓存机制响应用户请求，节省服务调用成本。
• 就近访问：将端侧请求路由到网络延时最低的边缘节点，加速服务响应，提升服务质量。
• 场景化方案：平台预置多领域 AI 智能体，提供一站式 AI 服务调用能力。
• 故障转移：支持请求自动重试与模型调用顺序配置，保障服务稳定性。

大模型网关支持哪些模型?

大模型网关支持的模型会不定期更新。您可以通过以下途径获取相关信息：

• 方式一（推荐）：访问大模型网关控制台，
  • 在 模型配置管理 > 大模型管理 页面查看当前支持的所有模型（包含平台预置模型、自有三方模型）。
  • 在 模型配置管理 > 智能体管理 页面查看当前支持的所有智能体（包含平台预置智能体、自有三方智能体）。
• 方式二：访问官方文档 - 支持的调用渠道。

什么是调用渠道？

调用渠道是大模型网关与实际被调用对象（如 AI 模型、智能体）之间的桥梁。一个调用渠道包含调用具体模型或智能体所需的密钥（API key）等信息。目前，大模型网关支持以下四类调用渠道：

调用渠道	说明	资源消耗
平台预置模型	直接调用大模型网关平台预置的模型。	消耗大模型网关免费为您提供的资源配额（包含 tokens、调用次数、语音时长、字符数）。
平台预置智能体	直接调用大模型网关平台预置的智能体。
自有三方模型	通过大模型网关调用第三方 AI 平台上的模型。	在第三方 AI 平台上消耗您自己的资源配额。
自有三方智能体	通过大模型网关调用第三方 AI 平台上的智能体。