在线推理支持用户调用模型广场上的模型与精调后的模型进行推理，在线推理支持：

1. 灵活升级接入模型的版本

2. 支持模型推理接入点的调用监控

3. 支持通过购买模型单元，保障更高并发度、更灵活的推理需求

您可以创建模型推理接入点来开始模型推理。
模型推理接入点创建有3个入口，点击创建按钮后，在弹出的表单中，填写相应信息，信息填写完毕后，点击【新建】，即可完成推理接入点的创建。

1. 入口 1：登录火山方舟平台，点击左侧导航栏中的【在线推理】，点击【 创建推理接入点 】

2. 入口 2：【模型广场】的模型卡片详情页右上角，点击【模型推理】

3. 入口 3：【模型仓库】的列表页右侧操作栏，点击【在线推理】

接入模型表单字段详细说明：

什么是模型单元

模型单元为用户提供独占的算力资源。创建推理接入点选择按模型单元付费后，无需再为 Token 消耗付费。模型单元付费方式为预付费按月和后付费按小时。

建议购买模型单元场景

1. 适合生产级别业务，对算力资源确定性要求很高

2. Lora 精调后的模型在推理时获得更低延迟

3. 使用全量训练精调后的模型推理

支持模型单元的模型

我们对Doubao系列模型与部分开源模型支持模型单元。支持范围请查看产品计费

使用说明

购买模型单元

目前支持在创建推理接入点配置购买方式时，选择按模型单元付费进行购买模型单元，可以配置购买模型单元的数量、计费类型、时长、是否自动续费。自动续费支持按照单次自动续费时长（按月）及自动续费次数（永久生效、自定义次数）自定义配置。

使用情况及配置

您可以在接入点详情页查看当前已经购买的模型单元数量、到期时间等信息，并对模型单元进行一系列操作：

• 对预付费模型单元进行购买、数量调整、续费、退订、设置自动续费规则

• 对后付费模型单元进行购买、数量调整、退订

配置说明

到期说明

• 购买预付费模型单元，到期时间为次月相同日的23点59分59秒。如您购买了预付费模型单元，到期后84小时内还可以继续使用资源；如您只购买了预付费模型单元，168小时后，将无法对原有的模型单元进行续费，需要更换新的接入点使用，但对同时买了后付费模型单元且在生效期的接入点没有此限制。

• 购买后付费模型单元，结算费用按购买后的持有时长，秒级计费。在不需要资源时，您可以随时删除资源，删除后，即时停止计费。

欠费说明

• 如您账号欠费，无法购买预付费模型单元。但已经购买完成的模型单元还可以继续使用。

• 如您购买了后付费模型单元，账号欠费后两小时资源进入保留期。超出保留期后，如您只购买了后付费模型单元，您的资源将被强制回收，无法使用原有接入点进行推理。