You need to enable JavaScript to run this app.
导航
快速入门-速览平台功能
最近更新时间:2025.02.20 10:37:00首次发布时间:2023.06.27 23:49:24

前提条件
  1. 注册账号:在使用火山引擎的服务之前需要用户注册火山引擎账号并完成相关认证,详见账号注册流程
  2. 实名认证:在火山引擎上购买和使用云资源的过程中,为遵守相关法律法规,也为保障您的合法权益,需要先进行实名认证,您可以按需进行个人实名认知或者企业实名认证,详见实名认证基本介绍
  3. 创建子账号(可选):如果您的账号为多人使用,为更好地进行权限管理,建议使用主账号前往【访问控制】-【用户】创建子账号并通过预置策略为其分配适当的权限。

模型与推理体验

模型广场

完成账号与权限设置后,进入火山方舟控制台(访问地址),在模型广场查看目前已发布的大模型,点击某个模型卡片可查看该模型的详细信息。更多详情可见模型广场介绍
Image

模型仓库

模型仓库展示所有精调产出的模型,您可以在此处管理自己的模型,查看模型的基本信息、接入点信息,发起评测、进行推理体验等,更多详情可见管理自定义模型
Image

推理体验

如果您对模型广场中某个已发布的模型感兴趣或想快速验证精调模型的效果,可以进入体验中心进行推理试用。更多详情可见模型体验介绍
Image

API 调用模型

模型广场中的模型支持 API 调用,您可以进入模型详情页点击右上角的 API 调用查看相关的调用教程。
Image

模型精调与评测

火山方舟允许用户上传自己的数据进行模型精调,只需简单的几个步骤即可产出更加贴合客户业务场景的模型。

准备数据

在创建精调任务之前需要完成数据的准备,目前支持 JSONL 格式的数据集,详细说明请参考模型精调数据集格式说明。目前支持两种数据上传的方式:

  1. 从本地上传数据:适用于小规模的数据集。
  2. 从 TOS 中导入数据:需先将数据上传至 TOS,具体操作可见TOS控制台快速入门,然后在创建精调任务时选择对应的 TOS 目录。当数据集规模较大时建议使用这种方式,避免在上传过程中因网络问题导致传输中断。

创建模型精调任务

  1. 数据准备好后,可以去创建模型精调任务,平台提供两种入口,您可以按照自己的需求进行选择。
    1. 入口一:进入模型精调页面,点击创建精调任务
      Image
    2. 入口二:通过模型广场的模型详情页中,模型精调发起精调任务
      Image
  2. 进入创建精调任务页面,按实际情况进行任务名称、描述、基础模型、数据集等信息的选择或填写。
  3. 数据填写完毕后,点击提交精调任务,即可完成任务创建。 更多操作,可见创建模型精调任务

Image

查看并管理模型精调任务

  1. 进入模型精调列表页,可查看已提交的所有模型精调任务。
  2. 点击某个任务名称,即可进入对应的详情页,可查看基本信息、效果指标、日志、时间线、模型产出信息。

更多操作,可见查看并管理模型精调任务
Image

创建模型评测任务

  1. 模型训练完成后,可以去创建模型评测任务,平台提供三种入口,您可以按照自己的需求进行选择。
    1. 入口一:进入模型评测页面,点击创建评测任务
      Image
    2. 入口二:进入精调任务详情页,切换模型产出 tab,选择模型后发起评测
      Image
    3. 入口三:进入模型仓库页面,选择模型后发起评测
      Image
  2. 进入创建评测任务页面,按实际情况进行任务名称、描述、评测模型、数据集等信息的选择或填写。
  3. 数据填写完毕后,点击提交评测任务,即可完成任务创建。 更多操作,可见创建模型评测任务

Image

查看并管理模型评测任务

  1. 进入模型评测列表页,可查看已提交的所有模型评测任务。
  2. 点击某个任务名称,即可进入对应的详情页,可查看基本信息、评测报告、日志。

更多操作,可见创建模型评测任务
Image

将精调后的模型发布成模型服务

在精调任务完成训练后,可以通过接入模型部署对应的精调模型版本。
更多操作,可见使用精调后的模型进行在线推理
Image

IAM 权限管理实践

当您账号涉及到多人使用,或者为组织所有,您可以使用 IAM 来实现不同账号的权限管理。
访问控制 IAM (Identity and Access Management) 是一套权限管理系统,是火山引擎提供的免费服务之一。您可以为火山引擎账号(主账号)创建IAM用户(子账号),并根据不同用途授予子账号相应的访问权限,以达到不同企业员工之间的权限隔离。

例如,您组织中有负责运营的人员,您不希望他们发生如删除模型等高危操作,您可以配置子账户的权限为ArkReadOnlyAccess策略,允许其仅可查看方舟内的全部资源,但不允许对资源进行操作,从而提升资源的安全性。

更多关于权限管理的详细实践,如项目维度权限管理、用户组权限管理,请参见使用IAM进行访问控制教程