进入2024年,以大模型为核心的 AI 技术,正在各个行业掀起新一轮的产业变革。而特色的 AI 应用、层出不穷的智能体玩法,在为我们个人的生活娱乐、工作学习提供了崭新的途径的同时,进一步展现了大模型的技术普惠能力。
火山引擎认为,人人用得起,才是好模型。通过技术驱动的更佳性价比,火山引擎通过更加优惠的模型价格,助力企业和开发者以更低成本对大模型进行应用和试错,促进业务创新;此外,火山引擎还希望以更加全面的平台能力和服务,为企业和开发者提供全链支撑,加速 AI 应用落地。
为此,火山引擎旗下一站式大模型服务平台火山方舟将正式面向个人开发者提供服务,个人开发者可体验、应用包括豆包大模型家族在内的十数种大模型和丰富的平台功能。火山方舟上的豆包全系模型都将为个人用户提供500,000 tokens 的免费推理额度,此外豆包通用模型pro 和豆包通用模型lite 的 4K 和 32K 版本,也为用户提供了10,000 RPM(每分钟请求数)和800,000 TPM(每分钟 tokens 数)的大流量额度,帮助个人开发者快速落地 AI 应用。
火山方舟是火山引擎推出的一站式大模型服务平台,平台提供模型精调、推理、评测等全方位功能与服务,提供丰富的插件生态和 AI 应用开发服务,并通过安全可信方案和专业的算法技术服务,全方位保障企业级 AI 应用落地。
发布至今,火山方舟已在金融、汽车、智能终端、电商零售、教育科研等多个行业实践落地,展现出了全栈 AI 服务能力。2024年,火山引擎对方舟平台进行了全面升级,升级后的火山方舟2.0将大幅提升模型效果、核心插件、系统性能以及平台体验,帮助企业推进大模型的价值创造。
企业同等额度,豆包全系模型能力,加码智能构建
继全面升级后,火山方舟也将为个人开发者提供模型选定、模型体验、模型推理等全链大模型服务,同时也将陆续开放模型精调等垂直化功能,以满足开发者的需求。
此外,针对模型效果、模型能力、推理成本、低代码/零代码开发等个人开发者关心的问题,火山引擎也将提供丰富完善的能力,助力个人开发者以更低的成本、更好的效果调用模型能力,高效构建 AI 应用。
在模型选取上:火山引擎将提供包括最新发布的豆包大模型家族在内的国内外主流优质大模型,个人开发者可根据自身的实际需求、应用场景,选取适合的大模型进行体验和效果评估;
在模型能力上:豆包大模型家族不仅能够适用于角色扮演、语音合成、语音识别等多样化的丰富场景,同时还支持 Function call,提供更加准确的功能识别和参数抽取能力,适合复杂工具调用的场景;
在推理成本上:为践行“人人用得起”这一理念,火山引擎不仅为个人开发者提供了与企业级客户同等的 tokens 免费额度以及限流额度,同时个人开发者也将享受同等的价格标准。以豆包通用模型pro-32k 版为例,模型推理输入价格仅为0.0008元/千 tokens,帮助个人开发者无忧试错,以更低的成本调用模型;
在低代码/零代码开发上:个人开发者可通过火山方舟所提供的丰富模版或扣子平台快速搭建 AI 应用,让想法变为现实;
在服务组件上:火山方舟面向个人开发者提供了联网插件及知识库插件的大部分功能,个人开发者可借助头条抖音同款的搜索能力、实时海量优质的数据,进一步提升自身应用的信息获取、检索、生成等能力。
个人开发者应用攻略,如何玩转火山方舟
1)实名认证及进入控制台
个人开发者需要在火山引擎官网上完成个人实名认证。完成实名认证后就可以从火山方舟/豆包大模型官网进入到火山方舟控制台。
2)模型选定
接下来就可以在模型广场中查看目前火山方舟所提供的各类大模型,个人开发者可通过模型卡片查看模型名称、简介、提供方、是否可体验以及应用场景,通过单击模型卡片进入详情页后还能查看更详细的说明文档,通过阅读说明文档,用户可以判断该模型是否对自身有帮助。
3)模型体验
在选定模型后,开发者还可以利用火山方舟所提供的控制台页面操作或通过 API 调用的方式进行模型体验及模型对比。具体方式如下:
4)模型精调及应用创建
在完成体验以后,个人开发者就可以根据自身的实际需求,调用相应的模型,并完成推理等工作:
此外,个人开发者还可以上传数据集,通过 SFT 精调(Supervised FineTuning)、继续预训练(Continue Pretraining)对模型进行精调,让所开发创建的 AI 应用更好地贴合实际应用场景。
End
火山引擎作为字节跳动旗下的云服务平台,始终在 AI 和数据方向上持续创新。未来,火山方舟还将陆续开放高代码智能体等更加完善的开发者工具和多样化的应用构建工具,满足个人开发者的不同场景化需求,以更好的模型效果、更强的平台能力、更优的使用成本,助力个人开发者充分发挥想象,构建各类 AI 应用。