You need to enable JavaScript to run this app.
导航
用量统计
最近更新时间:2024.12.23 10:22:00首次发布时间:2024.11.08 10:35:19

本文介绍了大模型网关的用量统计方法,以及如何查询您的用量。

用量统计说明

大模型网关根据您(通过大模型网关)向模型发出的请求以及模型的响应来统计您的用量。

说明

  • 大模型网关只负责汇总经过网关发生的模型用量,实际对模型请求进行计费的是模型提供商。
  • 当一个模型请求成功时,模型提供商通常会在模型响应中包含本次请求的用量。大模型网关从模型响应中获取用量数据进行统计。
  • 不同模型提供商对模型用量的计量方式可能有所不同,以模型提供商的官方说明为准。

模型类型

用量统计方式

说明

大语言模型

按照 “tokens” 统计模型用量。

tokens 有以下两种类型:

  • 输入 tokens:表示从输入文本转换的 tokens。
  • 输出 tokens:表示从输出文本转换的 tokens。

不同模型的 tokens 转换算法不同。关于 tokens 的详细说明,可参考 OpenAI 官网文档 - What are tokens and how to count them?

文生图模型

按照 “调用次数” 统计模型用量。

关于平台预置的豆包 - 文生图模型的计费说明,请参见图像技术 - 产品计费

语音合成模型

按照输入的 “合成字符数” 统计模型用量。

不同模型提供商对“输入字符”的定义可能有差异。详情可参考对应模型提供商的官方计费说明。
关于平台预置的豆包 - 语音合成模型的计费说明,请参见语音技术 - 计费概述

语音识别模型

按照输入的 “语音时长” 统计模型用量。

关于平台预置的豆包 - 语音识别模型的计费说明,请参见语音技术 - 计费概述

用量分类及计费

大模型网关的用量有以下两种类型:平台预置渠道用量、自有三方渠道用量。

用量类型

说明

计费说明

平台预置渠道用量

调用平台预置模型/智能体产生的用量

消耗从大模型网关平台获得的资源配额(包含免费配额、付费配额)。

  • 免费配额在您创建网关访问密钥时自动获得。更多信息,请参见资源配额
  • 如果免费配额不够用,可提交工单联系我们获得更多配额。

自有三方渠道用量

调用第三方模型/智能体产生的用量

消耗您在第三方模型提供商平台的资源配额。

说明

不同模型提供商的模型定价不同。大模型网关仅提供通过本平台发生的模型用量数据供您参考。实际计费请以第三方模型提供商平台的信息为准。

查询用量统计

您可以在大模型网关控制台查看网关访问密钥的用量统计数据。统计数据包含:

  • 平台预置模型、智能体调用产生的资源配额消耗
  • 第三方模型、智能体调用产生的资源配额消耗

要查询您的网关访问密钥的用量统计数据:

  1. 登录大模型网关控制台
  2. 在左侧导航栏,单击 网关访问密钥
  3. 在网关访问密钥列表找到您的网关访问密钥,查看 平台预置渠道用量自有三方渠道用量

    说明

    • 用量统计数据默认显示 tokens 消耗量。要查看其他类型的用量,可以将光标放置在用量数值上。详细的用量数据将会显示。
    • 为确保获取最新数据,您可以单击列表右上方的刷新按钮,对列表中的数据进行刷新。
    Image