logo
1
0
Login

云原生构建的ComfyUI运行环境

基于nvidia/cuda:12.9.1-cudnn-devel-ubuntu24.04镜像,以build模式生成开发环境(预装python3.12、vscode中文语言包、aria2c下载工具等)。之后生成venv并预装torch、sageattention等库。预装部分ComfyUI热门插件,并提供基于Gradio的图形化下载工具。

目前配置为从镜像启动。如需要每次启动重新构建docker环境可以自行修改 .cnb.yml 文件,重新构建的环境不含venv,可参考该介绍最后的venv生成方法。

相关项目链接:ComfyUI 在线体验(飞桨AI Studio星河社区)

运行指南

1. 启动ComfyUI

环境启动后会自动启动ComfyUI。如需关闭,终端中按Ctrl+c

再次启动ComfyUI,终端输入 qd,回车运行。可添加其他启动参数,如 qd --use-sage-attention,启用sageattention。

注意:--listen、--auto-launch参数已内置,无需额外添加。

2. 打开ComfyUI界面

四种打开外链的方法(选一种即可):

  1. 环境启动后会自动解压生成venv并启动ComfyUI,会弹出一个对话框,点打开
  2. 点击右下角弹出的对话框中的在浏览器中打开
  3. 按住Ctrl键点击终端输出内容中的http://0.0.0.0:8188;
  4. 端口下,按住Ctrl键点击外部链接。

3. 打开Gradio下载工具界面

首先点击右下角 + 打开第二个终端,在新终端中输入 ui,回车运行,将自动打开下载工具界面。如需关闭,对应终端中按Ctrl+c

Gradio下载工具界面:

预设下载模块中预置了一些模型的下载链接和存放路径,首先选择一级分类二级分类,然后选择预设文件列表(可多选),最后点击开始下载生成终端下载代码

Aria2cWget模块均可自定义下载链接和保存路径,对于多数下载链接可以直接识别文件名,无法识别的需要手工输入。

注意:

  1. 在工具内下载是有进度条的,但受网络影响,该进度条的刷新可能有延迟。如果想看完整的下载进度,建议生成终端下载代码后在新的终端内下载;
  2. 预设下载模块中的文件链接收集于互联网(如AI Models),不可商用!不可商用!不可商用!

4. 提交或删除文件/文件夹

提交文件或文件夹(终端内运行):

# add 文件或文件夹的路径1 文件或文件夹的路径2 文件或文件夹的路径3 ... # 例如提交comfyui、custom_nodes、venv文件夹 add comfyui custom_nodes venv

注意:可在资源管理器内,右键文件或文件夹,复制路径。

删除文件或文件夹(终端内运行,谨慎操作!):

del 文件或文件夹的路径1 文件或文件夹的路径2 文件或文件夹的路径3 ...

5. 更新ComfyUI

终端内运行:update

6. 其他一些说明

  1. 预设下载中有的模型尽量不要提交到自己的仓库,预设链接是内网链接,下载很快。免费空间只有100+100GB,只要提交文件就会占用空间,后续即使删除文件,空间占用不会降低。需要释放仓库空间只能是删除仓库(注意下载备份重要文件!)。

7. venv生成方法

# 生成venv python3 -m venv venv # 激活venv source venv/bin/activate # 安装pytorch(注意cuda版本) pip install torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 --index-url https://download.pytorch.org/whl/cu128 # pip install torch==2.8.0 torchvision==0.23.0 torchaudio==2.8.0 --index-url https://download.pytorch.org/whl/cu129 # 安装dev版本的pytorch(注意cuda版本) pip install -U torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu129 # 安装xformers(注意cuda版本,低版本pytorch需要手工指定xformers版本) pip install xformers --index-url https://download.pytorch.org/whl/cu128 # pytorch版本 xformers版本对照表(仅供参考) # torch==2.8.0 torchvision==0.23.0 torchaudio==2.8.0 暂无xformers # torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 xformers==0.0.31.post1 # torch==2.7.0 torchvision==0.22.0 torchaudio==2.7.0 xformers==0.0.30 # torch==2.6.0 torchvision==0.21.0 torchaudio==2.6.0 xformers==0.0.29.post2 # torch==2.5.1 torchvision==0.20.1 torchaudio==2.5.1 xformers==0.0.28.post3 # torch==2.5.0 torchvision==0.20.0 torchaudio==2.5.0 xformers==0.0.28.post2 # torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 xformers==0.0.28.post1 # torch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 xformers==0.0.27.post2 # torch==2.3.1 torchvision==0.18.1 torchaudio==2.3.1 xformers==0.0.27 # torch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 xformers==0.0.26.post1 # torch==2.2.2 torchvision==0.17.2 torchaudio==2.2.2 xformers==0.0.26 # torch==2.2.1 torchvision==0.17.1 torchaudio==2.2.1 xformers==0.0.25 # torch==2.2.0 torchvision==0.17.0 torchaudio==2.2.0 xformers==0.0.24 # torch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 xformers==0.0.23.post1 # torch==2.1.1 torchvision==0.16.1 torchaudio==2.1.1 xformers==0.0.23 # torch==2.1.0 torchvision==0.16.0 torchaudio==2.1.0 xformers==0.0.22.post7 # torch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 无xformers # torch==2.0.0 torchvision==0.15.1 torchaudio==2.0.1 无xformers # 从源码安装xformers(pip安装的版本有问题时可尝试,低版本torch需要自己找低版本xformers源码) git clone https://github.com/facebookresearch/xformers.git cd xformers git submodule update --init --recursive python setup.py install cd .. # 安装flash-attn(具体版本得看插件要求) pip install flash-attn==2.8.0.post2 # 安装SageAttention git clone https://github.com/thu-ml/SageAttention.git cd SageAttention export EXT_PARALLEL=4 NVCC_APPEND_FLAGS="--threads 8" MAX_JOBS=32 # parallel compiling (Optional) python setup.py install cd ..

About

云原生构建的ComfyUI运行环境 主要研究: 1. 快速构建自定义运行环境 2. 初始化阶段自定义模型下载 3. 基于Gradio的图形化下载工具 4. 固定镜像环境下自定义内容(插件、依赖、模型、设置等)的保存(提交)

Language
CSV34.5%
Python23.4%
JavaScript19.4%
XML7.3%
Others15.4%