You need to enable JavaScript to run this app.
导航
为扣子专业版接入模型
最近更新时间:2024.08.14 15:28:41首次发布时间:2024.07.18 17:19:48

扣子专业版由火山方舟平台提供模型服务。开通扣子专业版时,默认接入多款豆包模型供你使用。你也可以在方舟平台中添加更多模型推理接入点,扩大 Bot 可选择的模型范围。

说明

已开通扣子专业版的火山引擎账号,默认只能使用预置的豆包模型。如果你需要使用其他模型,可以在方舟平台创建模型推理接入点。然后在扣子平台中创建 Bot 并为 Bot 设置模型时,才可以在模型列表中选择模型推理接入点对应的模型。

在方舟平台开通模型

在方舟平台中开通模型的详细说明可参考方舟平台官方文档。开通模型后,如果不再使用某个模型,需要先在方舟平台中停止此模型的推理接入点,再删除接入点。

  1. 登录火山方舟控制台

  2. 在左侧导航栏中选择模型推理

  3. 单击创建推理接入点
    图片

  4. 根据页面提示,设置接入点名称,并选择模型。

    参数名称

    参数说明

    接入点名称

    接入点名称。

    接入点描述

    描述接入模型的业务需求,如接入场景、用途(如测试、线上业务)等。

    接入模型

    支持选择模型广场模型仓库中的模型进行接入。

    • 选择模型广场中的模型后,需进一步选择模型版本。
    • 选择模型仓库中的模型后,需进一步选择模型版本和 Checkpoint。当前仅支持基于豆包系列模型进行精调的模型。模型仓库的详细说明,可参考模型仓库

    购买方式

    支持按Token付费按模型单元付费。

    接入点限额

    设置限额后,使用此模型的 Bot 回复频率均受限于此设置。
    建议不设置接入点限额

  5. 单击接入模型
    图片

  6. 模型推理页面可查看已接入的模型列表。
    模型状态为健康时,表示该模型可以在扣子平台中使用。
    图片

在扣子平台为 Bot 选择模型

你可以在 Bot 的编排页面为 Bot 选择模型,可选模型的范围为模型推理页面已接入的模型列表。
图片