本文介绍了如何调用大模型网关平台预置的模型及智能体。
背景信息
关于平台预置的模型和智能体有哪些,请参见支持的调用渠道。
调用预置模型和智能体将会消耗平台赠送的免费额度。更多信息,请参见使用说明。
步骤1:创建网关访问密钥
要访问大模型网关 API,您需要一个网关访问密钥。创建网关访问密钥时,您可以为它绑定平台预置模型、平台预置智能体;成功创建网关访问密钥后,您可以使用网关访问密钥调用其绑定的平台预置模型、平台预置智能体。
绑定平台预置模型
- 登录大模型网关控制台。
- 在左侧导航栏,选择 模型配置管理 > 大模型管理。
- 单击 平台预置模型 页签。
- 找到您希望调用的模型所在平台,单击 操作 列的 创建网关访问密钥。
- 完成 创建网关访问密钥 配置向导。
您可以参考创建网关访问密钥完成相关配置。需要注意的是,在 模型配置 中选择一个或多个平台预置模型,绑定到网关访问密钥。网关访问密钥只可用于调用其绑定的模型。您可以将 渠道类型 设置为 平台预置模型,以筛选出可用的平台预置模型。
绑定平台预置智能体
- 登录大模型网关控制台。
- 在左侧导航栏,选择 模型配置管理 > 智能体管理。
- 单击 平台预置智能体 页签。
- 找到您希望调用的智能体,单击 操作 列的 创建网关访问密钥。
- 完成 创建网关访问密钥 配置向导。
您可以参考创建网关访问密钥完成相关配置。需要注意的是,在 模型配置 中选择一个或多个平台预置智能体,绑定到网关访问密钥。网关访问密钥只可用于调用其绑定的智能体。您可以将 渠道类型 设置为 平台预置智能体,以筛选出可用的平台预置智能体。
步骤2:使用网关访问密钥
当您的网关访问密钥绑定了平台预置模型、平台预置智能体,您在获取此网关访问密钥对应的示例代码时,就可以选择绑定的模型、智能体作为被调用对象。将示例代码集成到您的业务逻辑后,您的大模型网关请求将触发指定模型调用。
具体操作,请参见使用网关访问密钥。需要注意的是,当您查看示例代码时,需要在 选择模型 中选择 平台预置模型 或 平台预置智能体 调用渠道。