问题列表
问题详情
什么是大模型网关？
大模型网关（AI Gateway）服务允许您通过一个 API 接口访问市面主流大模型提供商的多种模型。利用边缘云基础架构的优势，本平台显著提高模型访问速度，为终端用户提供更快速、更可靠的 AI 服务体验。
如何创建网关访问密钥?
网关访问密钥是您访问大模型网关的身份凭证，用于管理访问者的权限，如授权、鉴权、限流等。您可以在 网关访问密钥管理 页面创建网关访问密钥。具体操作，请参见创建网关访问密钥。
使用大模型网关有什么优势？
- 大模型网关提供符合 OpenAI 标准的模型请求接口，允许您只用一个接口即可请求市面上主流 LLM 提供商的多种模型，方便在业务中集成。
- 借助边缘云的基础设施优势，大模型网关可以将用户请求路由到网络延时最低的节点，同时利用缓存机制响应用户请求，帮助您节省模型使用成本。
- 大模型网关支持自动重试和故障转移。在发生错误时自动重试请求，降低手动运维成本；单模型故障时自动切换备用模型，保障稳定性。
大模型网关支持哪些模型?
大模型网关支持的模型会不定期更新。您可以通过以下途径获取相关信息：
- 方式一（推荐）：访问大模型网关控制台，点击 创建网关访问密钥，在 模型配置 列表查看当前支持的所有模型。
- 方式二：访问官方文档 - 支持的模型。