玩转 ComfyUI，更小运维成本的 Stable Diffusion 平台！

背景介绍

Stable Diffusion 作为当下非常流行的开源生成式 AI 图像生成模型，在游戏行业有着广泛的应用实践，无论是 To C 面向玩家的游戏社区场景，还是 To B 面向游戏工作室的美术制作场景，都可以发挥很大的价值。而如何更好地使用 Stable Diffusion 也成了非常热门的话题，社区也贡献了多种 runtime 来实现 Stable Diffusion 的图像生成，其中广泛流行的包括：stable-diffusion-webui、ComfyUI、Fooocus 等。同时，如何在企业内部部署运维和迭代 Stable Diffusion 图像生成平台也涌现了多种方案。本文将以 ComfyUI 为例，介绍如何在亚马逊云科技上部署面向美术团队的 Stable Diffusion 图像生成平台。

stable-diffusion-webui 

扫码了解更多

ComfyUI

扫码了解更多

Fooocus 

扫码了解更多

左右滑动查看更多

ComfyUI 简介

ComfyUI 是一个开源的基于节点式工作流的 Stable Diffusion 方案，它将 Stable Diffsuion 模型推理时各个流程拆分成不同的节点，让用户可以更加清晰地了解 Stable Diffusion 的原理，并且可以更加精细化地控制整个流程。总体来看，ComfyUI 的学习曲线虽然比较陡，但是相较于其他的 Stable Diffusion Runtime 有以下的优势：

1. 在 SDXL 模型推理上相较于其他 UI 有很大的性能优化，图片生成速度相较于 WEBUI 有 10%~25% 的提升。

2. 高度自定义，可以让用户更加精准和细粒度控制整个图片生成过程，深度用户可以通过 ComfyUI 更简单地生成更好的图片。

3. Workflow 以 .json 或者图片的形式更易于分享传播，可以更好地提高效率。

4. 开发者友好，Workflow 的 API 调用可以通过简单加载相同的 API 格式 .json 文件，以任何语言来调用生成图片。

基于 ComfyUI 以上的各种优势，使得它越来越多地被美术创作者所使用。

方案特点

我们根据实际的使用场景设计方案，总结有以下特点：

• IaC 方式部署，极简运维，使用 Amazon Cloud Development Kit (Amazon CDK) 和 Amazon EKS Bluprints 来管理 Amazon Elastic Kubernetes Service (Amazon EKS) 集群以承载运行 ComfyUI。

• 基于 Karpenter 的能力动态伸缩，自定义节点伸缩策略以适应业务需求。

• 通过 Amazon Spot Instances 实例节省 GPU 实例成本。

• 充分利用 GPU 实例的 instance store，最大化模型加载和切换的性能，同时最小化模型存储和传输的成本。

• 利用 Amazon S3 CSI driver 将生成的图片直接写入 Amazon S3，降低存储成本。

• 利用 Amazon CloudFront 边缘节点加速动态请求，以满足跨地区美术工作室共用平台的场景（Optional）。

• 通过 Serverless 事件触发的方式，当模型上传 Amazon S3 或在 Amazon S3 删除时，触发工作节点同步模型目录数据。

Amazon Cloud Development Kit (Amazon CDK) 

扫码了解更多

Amazon EKS Bluprints 

扫码了解更多

 instance store

扫码了解更多

 Amazon Elastic Kubernetes Service (Amazon EKS)

扫码了解更多

 Karpenter 

扫码了解更多

 S3 CSI driver

扫码了解更多

Amazon Spot Instances

扫码了解更多

Amazon S3

扫码了解更多

Amazon CloudFront 

扫码了解更多

左右滑动查看更多

方案架构

分为两个部分介绍方案架构：

方案部署过程

1. ComfyUI 的模型存放在 Amazon S3 for Models，目录结构和原生的 ComfyUI/Models 目录结构一致。

2. Amazon EKS 集群的 GPU node 在拉起初始化时，会格式化本地的 instance store，并通过 user-data 从 Amazon S3 将模型同步到本地 instance store。

3. Amazon EKS 运行 ComfyUI 的 Pod 会将 node 上的 instance store 目录映射到 Pod 里的 Models 目录，以实现模型的读取加载。

4. 当有模型上传到 Amazon S3 或从 Amazon S3 删除时，会触发 Amazon Lambda 对所有 GPU node 通过 SSM 执行命令再次同步 Amazon S3 上的模型到本地 instance store。

5. Amazon EKS 运行 ComfyUI 的 Pod 会通过 PVC 的方式将 ComfyUI/Output 目录映射到 Amazon S3 for Outputs。

用户使用过程

1. 当用户请求通过 Amazon CloudFront –> ALB 到达 Amazon EKS Pod 时，Pod 会首先从 instance store 加载模型。

2. Pod 推理完成后会将图片存放在 ComfyUI/Output 目录，通过 S3 CSI Driver 直接写入 Amazon S3。

3. 得益于 instance store 的性能优势，用户在第一次加载模型以及切换模型时的时间相较于其他存储方案会大大缩短。

此方案已开源，可以通过以下地址获取部署和测试代码。具体部署指引请参考章节《方案部署指引》。

https://github.com/aws-samples/comfyui-on-eks

左右滑动查看更多

图片生成效果

部署完成后可以通过浏览器直接访问 Amazon CloudFront 的域名或 Kubernetes Ingress 的域名来使用 ComfyUI 的前端。

也可以通过将 ComfyUI 的 Workflow 保存为可供 API 调用的 .json 文件，以 API 的方式来调用，可以更好地与企业内的平台和系统进行结合。参考调用代码 ：

comfyui-on-eks/test/invoke_comfyui_api.py

左右滑动查看更多

方案部署指引

准备工作

此方案默认你已安装部署好并熟练使用以下工具：

• Amazon CLI：latest version

• eksctl

• helm

• kubectl

• Docker

• npm

• Amazon CDK：latest version

Amazon CLI

扫码了解更多

eksctl 

扫码了解更多

helm

扫码了解更多

kubectl

扫码了解更多

Docker

扫码了解更多

npm

扫码了解更多

Amazon CDK

扫码了解更多

左右滑动查看更多

下载部署代码，切换分支，安装 npm packages 并检查环境。

git clone https://github.com/aws-samples/comfyui-on-eks ~/comfyui-on-eks
cd ~/comfyui-on-eks && git checkout Blog1
npm install
npm list
cdk list

左右滑动查看更多

运行 npm list 确认已安装下面的 packages。

comfyui-on-eks@0.1.0 ~/comfyui-on-eks
├── @aws-quickstart/eks-blueprints@1.13.1
├── aws-cdk-lib@2.115.0
├── aws-cdk@2.99.1
└── ...

左右滑动查看更多

运行 CDK list 确认环境已准备完成，有以下 Amazon CloudFormation 可以部署。

Comfyui-Cluster
CloudFrontEntry
LambdaModelsSync
S3OutputsStorage
ComfyuiEcrRepo

部署 Amazon EKS 集群

执行以下命令：

cd ~/comfyui-on-eks && cdk deploy Comfyui-Cluster

左右滑动查看更多

此时会在 Amazon CloudFormation 创建一个名为 ComfyUI-Cluster 的 Stack 来部署 Amazon EKS Cluster 所需的所有资源，执行时间约 20-30min。

ComfyUI-Cluster Stack 的资源定义可以参考 ComfyUI-on-eks/lib/ComfyUI-on-eks-stack.ts，需要关注以下几点：

1.Amazon EKS 集群是通过 Amazon EKS Blueprints 框架来构建。

blueprints.EksBlueprint.builder()

2.通过 Amazon EKS Blueprints 的 Addon 给 Amazon EKS 集群安装了以下插件：

• AwsLoadBalancerControllerAddOn：用于管理 Kubernetes 的 ingress ALB

• SSMAgentAddOn：用于在 EKS node 上使用 SSM，远程登录或执行命令

• Karpenter：用于对 EKS node 进行扩缩容

• GpuOperatorAddon：支持 GPU node 运行

3.给 AmazonEKS 的 node 增加了 Amazon S3 的权限，以实现将 Amazon S3 上的模型文件同步到本地 instance store。

4.没有定义 GPU 实例的 nodegroup，而是只定义了轻量级应用的 CPU 实例 nodegroup 用于运行 Addon 的 Pods，GPU 实例的扩缩容完全交由 Karpenter 实现。

部署完成后，CDK 的 Outputs 会显示一条 ConfigCommand，用来更新配置以 Kubectl 来访问 Amazon EKS 集群。

执行上面的 ConfigCommand 命令以授权 Kubectl 访问 Amazon EKS 集群。

执行以下命令验证 Kubectl 已获授权访问 Amazon EKS 集群。

kubectl get svc

至此，Amazon EKS 集群已完成部署。

同时请注意，EKS Blueprints 输出了 KarpenterInstanceNodeRole，它是 Karpenter 管理的 Node 的 role，请记下这个 role 接下来将在《部署 Karpenter 用以管理 GPU 实例的扩缩容》节进行配置。

部署存储模型的 Amazon S3 bucket 

以及 Amazon Lambda 动态同步模型

执行以下命令：

cd ~/comfyui-on-eks && cdk deploy LambdaModelsSync

左右滑动查看更多

LambdaModelsSync 的 stack 主要创建以下资源：

• Amazon S3 bucket：命名规则为 ComfyUI-models-{account_id}-{region}，用来存储 ComfyUI 使用到的模型。

• Amazon Lambda 以及对应的 role 和 event source：Lambda function 名为 comfy-models-sync，用来在模型上传到 Amazon S3 或从 Amazon S3 删除时触发 GPU 实例同步 Amazon S3 bucket 内的模型到本地。

LambdaModelsSync 的资源定义可以参考 ComfyUI-on-eks/lib/lambda-models-sync.ts，需要关注以下几点：

1. Amazon Lambda 的代码在目录 ComfyUI-on-eks/lib/ComfyModelsSyncLambda/model_sync.py。

2. Amazon Lambda 的作用是通过 tag 过滤所有 ComfyUI EKS Cluster 里的 GPU 实例，当存放模型的 Amazon S3 发生 create 或 remove 事件时，通过 SSM 的方式让所有 GPU 实例同步 Amazon S3 上的模型到本地目录（instance store）。

Amazon S3 for Models 和 Amazon Lambda 部署完成后，此时 Amazon S3 还是空的，执行以下命令用来初始化 Amazon S3 bucket 并下载 SDXL 模型准备测试。

注意：以下命令会将 SDXL 模型下载到本地并上传到 Amazon S3，需要有充足的磁盘空间（20G），你也可以通过自己的方式将模型上传到 Amazon S3 对应的目录。

region="us-west-2" # 修改 region 为你当前的 region
cd ~/comfyui-on-eks/test/ && bash init_s3_for_models.sh $region

左右滑动查看更多

无需等待模型下载上传 Amazon S3 完成，可继续以下步骤，只需要在 GPU node 拉起前确认模型上传 Amazon S3 完成即可。

 部署存储 ComfyUI 

生成图片的 Amazon S3 bucket

执行以下命令：

cd ~/comfyui-on-eks && cdk deploy S3OutputsStorage

左右滑动查看更多

Amazon S3 OutputsStorage 的 stack 只创建一个 Amazon S3 bucket，命名规则为 comfyui-outputs-{account_id}-{region}，用于存储 ComfyUI 生成的图片。

部署 ComfyUI Workload

ComfyUI 的 Workload 部署用 Kubernetes 来实现，请按以下顺序来依次部署。

1.构建并上传 ComfyUI Docker 镜像

执行以下命令，创建 ECR repo 来存放 ComfyUI 镜像。

cd ~/comfyui-on-eks && cdk deploy ComfyuiEcrRepo

左右滑动查看更多

在准备阶段部署好 Docker 的机器上运行 build_and_push.sh 脚本。

region="us-west-2" # 修改 region 为你当前的 region
cd comfyui-on-eks/comfyui_image/ && bash build_and_push.sh $region

左右滑动查看更多

ComfyUI 的 Docker 镜像请参考 comfyui-on-eks/comfyui_image/Dockerfile，需要注意以下几点：

1. 在 Dockerfile 中通过 git clone & git checkout 的方式来固定 ComfyUI 的版本，可以根据业务需求修改为不同的 ComfyUI 版本。

2. Dockerfile 中没有安装 customer node 等插件，可以使用 RUN 来按需添加。

3. 此方案每次的 ComfyUI 版本迭代都只需要通过重新 build 镜像，更换镜像来实现。

构建完镜像后，执行以下命令确保镜像的 Architecture 是 X86 架构，因为此方案使用的 GPU 实例均是基于 X86 的机型。

region="us-west-2" # 修改 region 为你当前的 region
ACCOUNT_ID=$(aws sts get-caller-identity --query Account --output text)
image_name=${ACCOUNT_ID}.dkr.ecr.${region}.amazonaws.com/comfyui-images:latest
docker image inspect $image_name|grep Architecture

左右滑动查看更多

2.部署 Karpenter 用以管理 GPU 实例的扩缩容

执行以下命令来部署 Karpenter 的 Provisioner：

kubectl apply -f comfyui-on-eks/manifests/Karpenter/karpenter_provisioner.yaml

左右滑动查看更多

执行以下命令来验证 Karpenter 的部署结果：

kubectl describe karpenter

Karpenter 的部署需要注意以下几点：

1.使用了 g5.2xlarge 和 g4dn.2xlarge 机型，同时使用了 on-demand 和 spot 实例。

2.在 userData 中对 karpenter 拉起的 GPU 实例做以下初始化操作：

• 格式化 instance store 本地盘，并 mount 到 /comfyui-models 目录

• 将存储在 Amazon S3 上的模型文件同步到本地 instance store

在《部署 EKS 集群》节获取到的 KarpenterInstanceNodeRole 需要添加一条 Amazon S3 的访问权限，以允许 GPU node 从 Amazon S3 同步文件，请执行以下命令：

KarpenterInstanceNodeRole="Comfyui-Cluster-ComfyuiClusterkarpenternoderoleE627-juyEInBqoNtU" # 修改为你自己的 role
aws iam attach-role-policy --policy-arn arn:aws:iam::aws:policy/AmazonS3FullAccess --role-name $KarpenterInstanceNodeRole

左右滑动查看更多

3.部署 Amazon S3 PV 

和 PVC 用以存储生成的图片

执行以下命令来部署 Amazon S3 CSI 的 PV 和 PVC：

Run on Linux

region="us-west-2" # 修改 region 为你当前的 region
account=$(aws sts get-caller-identity --query Account --output text)
sed -i "s/region .*/region $region/g" comfyui-on-eks/manifests/PersistentVolume/sd-outputs-s3.yaml
sed -i "s/bucketName: .*/bucketName: comfyui-outputs-$account-$region/g" comfyui-on-eks/manifests/PersistentVolume/sd-outputs-s3.yaml
kubectl apply -f comfyui-on-eks/manifests/PersistentVolume/sd-outputs-s3.yaml

左右滑动查看更多

Run on MacOS

region="us-west-2" # 修改 region 为你当前的 region
account=$(aws sts get-caller-identity --query Account --output text)
sed -i ’’ "s/region .*/region $region/g" comfyui-on-eks/manifests/PersistentVolume/sd-outputs-s3.yaml
sed -i ’’ "s/bucketName: .*/bucketName: comfyui-outputs-$account-$region/g" comfyui-on-eks/manifests/PersistentVolume/sd-outputs-s3.yaml
kubectl apply -f comfyui-on-eks/manifests/PersistentVolume/sd-outputs-s3.yaml

左右滑动查看更多

4.部署 Amazon EKS S3 CSI Driver

REGION="us-west-2" # 修改 region 为你当前的 region
account=$(aws sts get-caller-identity --query Account --output text)
ROLE_NAME=EKS-S3-CSI-DriverRole-$account-$region
POLICY_ARN=arn:aws:iam::aws:policy/AmazonS3FullAccess
eksctl create iamserviceaccount \
   --name s3-csi-driver-sa \
   --namespace kube-system \
   --cluster Comfyui-Cluster \
   --attach-policy-arn $POLICY_ARN \
   --approve \
   --role-name $ROLE_NAME \
   --region $REGION

左右滑动查看更多

确保执行上述命令的 Identity 在 Amazon EKS 集群的 aws-auth configmap 里。

identity=$(aws sts get-caller-identity --query 'Arn' --output text)
kubectl describe configmap aws-auth -n kube-system|grep $identity

左右滑动查看更多

执行以下命令，安装 aws-mountpoint-s3-csi-driver Addon：

helm repo add aws-mountpoint-s3-csi-driver https://awslabs.github.io/mountpoint-s3-csi-driver
helm repo update
helm upgrade --install aws-mountpoint-s3-csi-driver \
   --namespace kube-system \
  aws-mountpoint-s3-csi-driver/aws-mountpoint-s3-csi-driver

左右滑动查看更多

5.部署 ComfyUI Deployment 和 Service

执行以下命令来替换容器 image 镜像：

Run on Linux

region="us-west-2" # 修改 region 为你当前的 region
account=$(aws sts get-caller-identity --query Account --output text)
sed -i "s/image: .*/image: ${account}.dkr.ecr.${region}.amazonaws.com\/comfyui-images:latest/g" comfyui-on-eks/manifests/ComfyUI/comfyui_deployment.yaml

左右滑动查看更多

Run on MacOS

region="us-west-2" # 修改 region 为你当前的 region
account=$(aws sts get-caller-identity --query Account --output text)
sed -i ’’  "s/image: .*/image: ${account}.dkr.ecr.${region}.amazonaws.com\/comfyui-images:latest/g" comfyui-on-eks/manifests/ComfyUI/comfyui_deployment.yaml

左右滑动查看更多

执行以下命令来部署 ComfyUI 的 Deployment 和 Service：

kubectl apply -f comfyui-on-eks/manifests/ComfyUI

左右滑动查看更多

ComfyUI 的 deployment 和 service 部署注意以下几点：

1.ComfyUI 的 Pod 扩展时间和实例类型有关，如果实例不足需要 Karpenter 拉起 node 进行初始化，同步镜像后才可以被 Pod 调度。可以通过以下命令分别查看 Kubernetes 事件以及 Karpenter 日志。

podName=$(kubectl get pods -n karpenter|tail -1|awk '{print $1}')
kubectl logs -f $podName -n karpenter
kubect get events --watch

左右滑动查看更多

2.不同的 GPU 实例有不同的 instance Store 大小，如果 Amazon S3 存储的模型总大小超过了 instance Store 的大小，则需要使用 EFS 或其他方式方式来管理模型存储。

当 ComfyUI 的 Pod running 时，执行以下命令查看 Pod 日志：

podName=$(kubectl get pods |tail -1|awk '{print $1}')
kubectl logs -f $podName

左右滑动查看更多

测试 ComfyUI on EKS 部署结果

1.API 测试

使用 API 的方式来测试，在 comfyui-on-eks/test 目录下执行以下命令：

Run on Linux

ingress_address=$(kubectl get ingress|grep comfyui-ingress|awk '{print $4}')
sed -i "s/SERVER_ADDRESS = .*/SERVER_ADDRESS = \"${ingress_address}\"/g" invoke_comfyui_api.py
sed -i "s/HTTPS = .*/HTTPS = False/g" invoke_comfyui_api.py
sed -i "s/SHOW_IMAGES = .*/SHOW_IMAGES = False/g" invoke_comfyui_api.py
./invoke_comfyui_api.py

左右滑动查看更多

Run on MacOS

ingress_address=$(kubectl get ingress|grep comfyui-ingress|awk '{print $4}')
sed -i  ’’ "s/SERVER_ADDRESS = .*/SERVER_ADDRESS = \"${ingress_address}\"/g" invoke_comfyui_api.py
sed -i ’’ "s/HTTPS = .*/HTTPS = False/g" invoke_comfyui_api.py
sed -i ’’ "s/SHOW_IMAGES = .*/SHOW_IMAGES = False/g" invoke_comfyui_api.py
./invoke_comfyui_api.py

左右滑动查看更多

API 调用逻辑参考 comfyui-on-eks/test/invoke_comfyui_api.py，注意以下几点：

1. API 调用执行 ComfyUI 的 workflow 存储在comfyui-on-eks/test/sdxl_refiner_prompt_api.json。

2. 使用到了两个模型：sd_xl_base_1.0.safetensors，sd_xl_refiner_1.0.safetensors。

3. 可以在 sdxl_refiner_prompt_api.json 里或 invoke_comfyui_api.py 修改 prompt 进行测试。

2.浏览器测试

执行以下命令获取 ingress 地址：

kubectl get ingress

通过浏览器直接访问 ingress 地址。

至此 ComfyUI on EKS 部分已部署测试完成。接下来我们将对 Amazon EKS 集群接入 Amazon CloudFront 进行边缘加速。

部署 Amazon CloudFront 

边缘加速（可选）

在 comfyui-on-eks 目录下执行以下命令，为 Kubernetes 的 ingress 接入 Amazon CloudFront 边缘加速：

cdk deploy CloudFrontEntry

CloudFrontEntry 的 stack 可以参考 comfyui-on-eks/lib/cloudfront-entry.ts，需要关注以下几点：

1. 在代码中根据 tag 找到了 EKS Ingress 的 ALB。

2. 以 EKS Ingress ALB 作为 CloudFront Distribution 的 origin。

3. ComfyUI 的 ALB 入口只配置了 HTTP，所以 CloudFront Origin Protocol Policy 设置为 HTTP_ONLY。

4. 加速动态请求，cache policy 设置为 CACHING_DISABLED。

部署完成后会打出 Outputs，其中包含了 Amazon CloudFront 的 URL CloudFrontEntry.cloudFrontEntryUrl，参考章节《测试 ComfyUI on EKS 部署结果》通过 API 或浏览器的方式进行测试。

清理资源

执行以下命令删除所有 Kubernetes 资源：

kubectl delete -f comfyui-on-eks/manifests/ComfyUI/
kubectl delete -f comfyui-on-eks/manifests/PersistentVolume/
kubectl delete -f comfyui-on-eks/manifests/Karpenter/

左右滑动查看更多

删除上述部署的资源。

cdk destroy ComfyuiEcrRepo
cdk destroy CloudFrontEntry
cdk destroy S3OutputsStorage
cdk destroy LambdaModelsSync
cdk destroy Comfyui-Cluster

总结

本文介绍了一种在 Amazon EKS 上部署 ComfyUI 的方案。通过 instance store 和 Amazon S3 的结合，在降低存储成本的同时最大化模型加载和切换的性能，同时通过 Serverless 的方式自动化进行模型的同步，使用 spot 实例降低 GPU 实例成本，并且通过 Amazon CloudFront 进行全球加速，以满足跨地区美术工作室协作的场景。整套方案以 LAC 的方式管理底层基础设施，最小化运维成本。

本篇作者

王睿

亚马逊云科技高级解决方案架构师，从事过 SRE 以及 SDE，在游戏和云计算行业有丰富的实践经验。

星标不迷路，开发更极速！

关注后记得星标「亚马逊云开发者」

听说，点完下面4个按钮

就不会碰到bug了！

点击阅读原文查看博客！获得更详细内容！