8GB 显存出 4K 图:FLUX 3 Klein 本地部署三个坑
FLUX 3 Image Klein 在消费级 N 卡上的落地路径与三个实测坑,命令与文件名均取自官方仓库与第三方配方实测。主线走 ComfyUI:仓库 black-forest-labs/flux-3-image-klein-comfy 为 gated(HF API 中 gated 为 auto),匿名请求返回 401 与 x-error-code GatedRepo,须登录状态接受条款再 hf auth login;随后 hf download 四个文件——distilled transformer int8 为 5,827,874,779 字节、Qwen3-VL-4B int8 文本编码器 4,858,559,240 字节、prompt upsampler w4a8 为 6,724,090,780 字节、FLUX.2 VAE 336,211,292 字节;python main.py 起服务后进 Workflow 再到 Browse Templates 搜 FLUX 3,选 distilled Text to Image(模板 id image_flux3_klein_distilled_t2i),模板默认 1024×1024、euler 加 simple、16 步 CFG 1,两个文本编码器 loader 的 type 选 flux3,upsampler 开关必须保持打开。三个坑:其一,若照官方卡片示例下载 int8 upsampler(9,748,113,996 字节约 9.08GiB),四文件合计 19.343GiB,16GB 卡装不下,而 ComfyUI v0.41.2 的 distilled 模板实际按名加载的是 w4a8,比 int8 小 2.816GiB;其二,官方 model card 称编辑模板没有 upsampler 分支、需自备 LLM 做提示词增强,但 v0.41.2 的编辑模板实际含一个默认关闭的 upsampler 分支(TextGenerate 节点加 W4A8 loader 加图像编辑 system prompt),两条路都能走;其三,不带 upsampler 直接使用模型,编辑与 Ref2Image 结果不稳定,官方 model card 原文写明不要在没有 prompt upsampler 的情况下使用该模型。显存预算:BF16 11.2GB、FP8 5.6GB、INT8 可在 8GB 显存 RTX 上跑、NVFP4 面向数据中心;速度均为厂商口径,distilled 加 INT8 下 1MP 图在 RTX 5090 约 4 秒、RTX 4070 不到 9 秒、GB300 上 NVFP4 不到 0.6 秒,挂 LoRA 约增 5%。分辨率最高 4K 且宽高须为 16 的倍数,参考图最多 10 张,官方默认 distilled 16 步无 guidance、base 50 步 CFG 3.5。Diffusers 代码线只写到可用与官方提供含 bounding box 控制的参考推理代码和 Gradio demo,具体 API 以仓库 README 为准,本文不虚构类名与参数。商用前须核 FLUX Kommunity License:个人与年营收低于 500 万美元免费商用,研究与非商用免费,超门槛需自托管许可或 API,细节以 LICENSE 原文为准。