AI 应用是针对大模型在线推理场景推出的一站式开发部署运维平台。本文为您介绍如何通过模板一键部署 AI 生图 Stable Diffusion ComfyUI 集群版，满足多用户使用场景。

应用介绍

SD ComfyUI 集群版用于支持在企业场景中多个用户同时使用 ComfyUI 的诉求。

• 将 Web 操作和 GPU 推理的运行实例分离，实现了客户端和后端推理实例解耦，最大限度提升 GPU 资源的利用率，降低推理成本。
• 为每个用户分配独立的工作目录，便于管理和存储模型、输出图像或视频等文件。
• 为每个用户提供独立的后端环境。当开启了多个实例时，单个用户的任务会按顺序执行，而多用户环境下的任务则在不同实例之间分配，实现高效的GPU共享。

前提条件

• 容器服务 VKE

  • 已创建 VKE 集群，具体操作可参见 创建集群。
  • （可选）如需挂载对象存储 TOS，请提前安装 csi-tos 组件。具体操作请参见 安装组件。
  • （可选）如需以弹性容器实例方式部署，仅适用于网络模型为 VPC-CNI 的 VKE 集群，且集群中需提前安装 vci-virtual-kubelet 组件。具体操作请参见 安装组件。
  • （可选）如需使用 GPU 资源，请提前安装 nvidia-device-plugin 组件。具体操作请参见 安装组件。

• 持续交付 CP

  • 已接入部署资源。部署资源必须为容器服务 VKE 集群。具体操作请参见 接入部署资源。

• （可选）如需挂载模型文件，请完成以下准备工作，任选一种存储即可。

  • 对象存储 TOS
    • 已将模型上传至 TOS Bucket 存储。具体操作请参见 对象存储快速入门。
    • 已获取当前账号的访问密钥 AK & SK。建议使用最小化授权的 IAM 用户的访问密钥，要求已授权对应文件的访问权限。具体操作请参见 AI 仓库挂载和存储加速。
  • 文件存储 NAS
    • 已将模型上传至 NAS 存储，要求 NAS 与待部署的 VKE 集群处于相同的 VPC。具体操作请参见 文件存储快速入门。
  • 制品仓库
    • 已将模型上传至制品仓库存储。具体操作请参见 上传和下载 AI 格式制品快速入门。
    • 已获取当前账号的访问密钥 AK & SK。建议使用最小化授权的 IAM 用户的访问密钥，要求该 IAM 用户已授权仓库挂载权限。

• （可选）如需配置外部访问方式，请完成以下准备工作，任选一种方式即可。

  • API 网关：已创建网关实例，要求网关实例与待部署的 VKE 集群处于相同的 VPC。具体操作请参见 创建实例。
  • 负载均衡 CLB：已创建负载均衡实例，要求负载均衡实例与待部署的 VKE 集群处于相同的 VPC。具体操作请参见 创建负载均衡实例。

使用限制

ComfyUI 集群版应用包含 Web 服务和 GPU 推理服务两个子应用。

• 弹性伸缩策略仅对 GPU 推理服务生效。Web 服务固定为 1 个实例，不支持配置弹性伸缩策略。
• 启停 ComfyUI 集群版应用时，会启停所有子应用。

操作步骤

1. 登录 持续交付控制台。
2. 在左侧导航栏选择 AI 应用。
3. 在 AI 应用页面，单击 创建应用。
4. 选择 AI 生图 - Stable Diffusion ComfyUI 集群版 模板，并单击 下一步：应用配置。
5. 按要求填写应用的相关配置信息。配置完成后单击 确定，应用将开始创建并部署。

基本信息

部署集群

模型配置

推理服务规格

• 勾选 以弹性容器实例方式部署

  配置项	说明
  实例数	根据业务规模，设置应用的副本数。
  弹性容器实例	保持勾选 以弹性容器实例方式部署。使用该方式部署应用，无需管理底层云服务器等基础设施，只需提供镜像即可运行容器，并为实际消耗的资源付费。计费详情，请参见 弹性容器计费说明。 说明 如果您在 VCI 侧申请了 镜像缓存 的邀测功能，AI 应用创建时将默认开启镜像缓存，加速镜像拉取。
  日志采集	是否通过火山引擎日志服务 TLS 采集 VCI 容器日志，对日志进行持久化存储。 勾选，开启日志采集。 不勾选，不开启日志采集。 注意 开启日志采集后，请确保已在 VKE 集群的日志中心中完成相关日志采集规则的配置，保证日志可正常投递至您配置的项目和主题中。具体操作请参见 采集容器日志。
  资源配置类型	根据业务需求选择要使用的实例规格。不同计算规格提供的虚拟化能力不同，详情请参见 VCI 实例规格介绍。 通用型：搭配多种 vCPU、内存配比的通用型规格族。 GPU 计算型：基于多种 NVIDIA Tesla 显卡提供的 GPU 计算型实例规格族。
  系统盘	设置系统盘容量。系统盘主要用于缓存镜像，容量必须大于镜像大小。 说明 如果您在 VCI 侧 申请 了手动指定系统盘大小的邀测功能，支持在此处自定义系统盘的容量。

• 不勾选 以弹性容器实例方式部署

  配置项	说明
  实例数	根据业务规模，设置应用的副本数。
  资源配置类型	CPU：定义每个实例的 CPU 规格。其中，CPU 请求 ≤ CPU 上限。 内存：定义每个实例的内存规格。其中，内存请求 ≤ 内存上限。 GPU 资源类型：是否使用 GPU 资源。 不开启：使用传统 CPU 计算资源。 开启：使用 GPU 计算资源，当前提供 Nvdia 卡型，支持自定义 GPU 算力。

Web 服务规格

Web 服务默认实例数为 1，不可配置。支持选择 Web 实例的 CPU 和 内存大小。

访问配置（可选）

配置 AI 应用的访问方式。详细内容可参见 访问设置。

结果验证

在应用的 基本信息 > 资源配置 页签，查看应用的部署进度。支持通过实例的 运行状态、实时日志 和 事件，查看应用详细的启动和运行信息。

后续操作

设置应用的组成成员和权限，并邀请多用户调用服务进行文生图等操作，详细介绍请参见 使用 SD ComfyUI 集群版。

常见问题

预置镜像默认的 ComfyUI 常用路径有哪些？

预置镜像默认的 ComfyUI 常用路径请参见下表。