实战 SOP
实战 SOP

8GB 显存出 4K 图:FLUX 3 Klein 本地部署三个坑

FLUX 3 Image Klein 在消费级 N 卡上的落地路径与三个实测坑,命令与文件名均取自官方仓库与第三方配方实测。主线走 ComfyUI:仓库 black-forest-labs/flux-3-image-klein-comfy 为 gated(HF API 中 gated 为 auto),匿名请求返回 401 与 x-error-code GatedRepo,须登录状态接受条款再 hf auth login;随后 hf download 四个文件——distilled transformer int8 为 5,827,874,779 字节、Qwen3-VL-4B int8 文本编码器 4,858,559,240 字节、prompt upsampler w4a8 为 6,724,090,780 字节、FLUX.2 VAE 336,211,292 字节;python main.py 起服务后进 Workflow 再到 Browse Templates 搜 FLUX 3,选 distilled Text to Image(模板 id image_flux3_klein_distilled_t2i),模板默认 1024×1024、euler 加 simple、16 步 CFG 1,两个文本编码器 loader 的 type 选 flux3,upsampler 开关必须保持打开。三个坑:其一,若照官方卡片示例下载 int8 upsampler(9,748,113,996 字节约 9.08GiB),四文件合计 19.343GiB,16GB 卡装不下,而 ComfyUI v0.41.2 的 distilled 模板实际按名加载的是 w4a8,比 int8 小 2.816GiB;其二,官方 model card 称编辑模板没有 upsampler 分支、需自备 LLM 做提示词增强,但 v0.41.2 的编辑模板实际含一个默认关闭的 upsampler 分支(TextGenerate 节点加 W4A8 loader 加图像编辑 system prompt),两条路都能走;其三,不带 upsampler 直接使用模型,编辑与 Ref2Image 结果不稳定,官方 model card 原文写明不要在没有 prompt upsampler 的情况下使用该模型。显存预算:BF16 11.2GB、FP8 5.6GB、INT8 可在 8GB 显存 RTX 上跑、NVFP4 面向数据中心;速度均为厂商口径,distilled 加 INT8 下 1MP 图在 RTX 5090 约 4 秒、RTX 4070 不到 9 秒、GB300 上 NVFP4 不到 0.6 秒,挂 LoRA 约增 5%。分辨率最高 4K 且宽高须为 16 的倍数,参考图最多 10 张,官方默认 distilled 16 步无 guidance、base 50 步 CFG 3.5。Diffusers 代码线只写到可用与官方提供含 bounding box 控制的参考推理代码和 Gradio demo,具体 API 以仓库 README 为准,本文不虚构类名与参数。商用前须核 FLUX Kommunity License:个人与年营收低于 500 万美元免费商用,研究与非商用免费,超门槛需自托管许可或 API,细节以 LICENSE 原文为准。

发布于 2026年10月17日10 分钟阅读
<!-- flux-3-image-klein-local-deploy-sop | sop | 8GB 显存出 4K 图:FLUX 3 Klein 本地部署三个坑 -->

FLUX 3 Image Klein 发布时最抓眼球的一句是「INT8 构建可在最低 8GB 显存的 RTX 上运行」。这句话没错,但它省略了三个限定词:哪张卡、多大分辨率、多少秒。官方速度图表只测了 1MP 输出,测的是 RTX 5090 与 RTX 4070,8GB 配置和 4K 分辨率都没进图——这一点 VentureBeat 在发布当天就点出来了。

所以这篇 SOP 不承诺「8GB 秒出 4K」。它只做一件事:把从零到出第一张图的路铺平,并把三个会让新手卡住半天的坑提前标出来。主线是 ComfyUI,辅线是 Diffusers。所有命令、文件名、字节数照抄官方仓库与第三方配方记录,速度数字一律标注口径,凡是没亲手跑过的都写清来源。

一、动手前先算三笔账:显卡、磁盘、账号

第一笔,显卡档位。 官方口径是三段。8GB 是门槛线,靠 INT8 量化构建撑住——transformer 与文本编码器都用 int8,官方明确说可以在最低 8GB 显存的 GeForce RTX 上跑,ComfyUI 与 Diffusers 两条路都行。12GB 与 16GB 属于从容档:同一套权重跑得更稳,能同时容纳 upsampler 与更大的 latent。再往上,BF16 权重占 11.2GB、FP8 占 5.6GB,这是官方公布的权重体积,指的是权重本身,不含激活值和推理缓存。

第二笔,磁盘。 ComfyUI 路线要下四个文件。按 v0.41.2 模板实际加载的 w4a8 upsampler 计算,四件合计 17,746,736,091 字节,约 17.6GB(十进制口径,折合约 16.5GiB)。这里藏着一条近 3GB 的岔路:如果照着官方 model card 的示例去下 int8 版 upsampler,单这一个文件就是 9,748,113,996 字节,四个文件合计变成 19.343GiB。硬盘多占 2.8GiB 是小事,16GB 卡装不下才是大事。

顺带说清一个容易被忽略的比例:四件文件里,真正负责出图的 transformer 只占 5.83GB,两个语言模型加起来超过 11.5GB。也就是说,卡在 8GB 线上的机器,压力主要不在出图那一步,而在把文本编码器和 upsampler 塞进显存的那一刻。理解这个比例,后面调显存才有方向——省显存要先省语言模型,不是先动采样步数。

第三笔,账号与网络。 ComfyUI 版权重仓库是 gated 的,HF 的 API 里标着 gated: "auto"。没登录、没接受条款,匿名请求直接返回 401,响应头里带 x-error-code: GatedRepo。这不是网络问题,也不是镜像问题,是许可没点同意。国内访问还需要能连上 huggingface.co 的网络环境,这个仓库没有官方替代源,别在下载脚本上反复试错。

二、第一步:接受许可再登录,顺序不能反

先浏览器里接受条款,再回终端登录。反过来做,hf auth login 显示成功也没用,拉取照样 401——因为 401 是仓库侧的判定,不是客户端鉴权失败。

三步走完:

  1. 打开 black-forest-labs/flux-3-image-klein-comfy,在已登录状态下接受许可条款。页面会把「你已同意」记在账号上,token 本身不携带这个状态。
  2. 本机升级客户端:pip install -U huggingface_hub。版本太老可能不认 hf 这个新命令前缀。
  3. 执行 hf auth login,粘贴一个有 read 权限的 access token。token 在账号设置的 Access Tokens 页面生成。
bash
pip install -U huggingface_hub
hf auth login

验证有没有真的通,最省事的办法是直接跑下一步的下载命令,看第一个文件是否开始走进度条。如果仍然 401,回第 1 步确认:浏览器登录的账号和生成 token 的账号是不是同一个。这是最高频的翻车点——很多人浏览器里登着 A 账号,终端里贴的是 B 账号的 token,然后花两小时怀疑网络。

三、第二步:下载四个文件,别照抄卡片示例

四个文件各司其职:distilled transformer 负责出图,Qwen3-VL-4B 文本编码器负责读提示词,Qwen3.5-9B upsampler 负责把短指令扩写成完整场景描述,FLUX.2 VAE 负责潜空间与像素互转。

命令照抄,路径别改。--local-dir 指向 ComfyUI/models 之后,仓库里的 diffusion_models/、text_encoders/、vae/ 三层目录会自动落到 ComfyUI 对应的模型目录下,不用手动搬家。

bash
hf download black-forest-labs/flux-3-image-klein-comfy \
  diffusion_models/flux3_image_klein_sd_int8_convrot.safetensors \
  text_encoders/qwen3vl_4b_int8_convrot.safetensors \
  text_encoders/qwen3.5_9b_flux3_prompt_upsampler_w4a8.safetensors \
  vae/flux2-vae.safetensors --local-dir ComfyUI/models
文件名角色字节数
diffusion_models/flux3_image_klein_sd_int8_convrot.safetensorsdistilled transformer,int85,827,874,779(约 5.83 GB)
text_encoders/qwen3vl_4b_int8_convrot.safetensorsQwen3-VL-4B 文本编码器,int84,858,559,240(约 4.86 GB)
text_encoders/qwen3.5_9b_flux3_prompt_upsampler_w4a8.safetensors提示词增强器,w4a86,724,090,780
vae/flux2-vae.safetensors自编码器336,211,292

注意第三条命令里的文件名是 w4a8,不是 int8。这不是笔误,下面第七节坑 1 会把这两个文件的体量差算给你看。下完核对一下总字节数,对不上就是有文件没下全,别急着启动。

四、第三步:启动、进模板、认准 distilled

python main.py 起服务,浏览器打开 http://127.0.0.1:8188。首次启动会自动装依赖,卡在某个包上是常态,看终端报错逐个补,别一键重装环境。

进界面后别急着点 Queue。走 Workflow 菜单里的 Browse Templates,搜「FLUX 3」,选 distilled 的 Text to Image,模板 id 是 image_flux3_klein_distilled_t2i。四个官方模板里这是首选入口:distilled 是少步蒸馏版,16 步就出图,显存与时间都最友好。

选错模板有两个典型症状。一是模板选成 base 但权重下的是 distilled,出图糊成一片;二是模板里 upsampler 节点亮着,但对应文件没下,加载阶段直接报找不到 safetensors。前者换模板,后者补文件,都不是参数问题。

五、参数怎么设:默认能跑,三个点必须核

模板打开就是一套能用的默认值:1024×1024、euler 采样器、simple 调度、16 步、CFG 1。先按默认跑通一张再调参,这句不是敷衍,是省时间。

三个必须核对的点:

其一,两个文本编码器 loader 的 type 都选 flux3。 transformer 的 loader 与文本编码器的 loader 是分开的两个节点,任何一个 type 选错,模型会按错误的分词与维度去读,报的错通常跟 type 毫无关系,排查方向会被带偏。

其二,upsampler 开关必须保持打开。 官方 model card 原话是 "Do not use the model without a prompt upsampler.",没有留余地。原因不玄:Klein 的提示词理解走 Qwen3-VL,短指令直接喂进去,模型会自行脑补场景,出的图和你想的不是一回事,编辑与 Ref2Image 场景尤其明显。

其三,分辨率与步数的边界。 最高 4K,宽高必须是 16 的倍数,写 1000×1000 会被对齐或直接报错。参考图最多 10 张,做角色一致性、风格迁移够用。官方给的两个基准是 distilled 16 步不带 guidance、base 50 步 CFG 3.5。模板已按 distilled 填好,别手动加 guidance,加了更容易糊。

再补一个实操细节:模板里 latent 的尺寸是独立节点,改分辨率时要连它一起改,只动一个地方,跑起来会报尺寸不一致。做 4K 时先把 latent 宽高调到 16 的倍数,再点 Queue,比出图失败后翻日志快得多。

六、显存预算表:你的卡该选哪一档

精度 / 构建权重占用定位速度参考
BF1611.2 GB高显存,微调首选官方未单列
FP85.6 GB中等显存官方未单列
INT8可在 8GB RTX 上跑消费级笔电与中端卡1MP 图:RTX 5090 约 4 秒、RTX 4070 不到 9 秒(厂商口径)
NVFP4数据中心级高吞吐1MP 图在 GB300 上不到 0.6 秒(厂商口径)

三条必须记住的限定。第一,表中所有速度都是厂商口径,非独立复测,测试条件是 distilled 加 INT8、1MP 输出、ComfyUI。第二,8GB 那句「可跑」没绑具体变体、输出尺寸与生成时间,官方速度图也没测 8GB 配置和 4K,所以 8GB 跑 4K 属于没被官方验证过的组合,要自己试。第三,挂 LoRA 会让生成时间增加约 5%,这是官方给的量级,不是精确值。

七、三个实测坑,每一个都能让你卡半天

先说来源:下面三条不是本文作者的实测,而是第三方配方文记录与模板文件实查的结果,字节数可直接核对。

坑 1:upsampler 选 int8,16GB 卡直接装不下。

官方 model card 的示例给的是 int8 版 upsampler,9,748,113,996 字节,约 9.08GiB。四个文件按这个组合算,合计 19.343GiB。而 ComfyUI v0.41.2 的 distilled 模板实际是按文件名加载 w4a8 版本,6,724,090,780 字节,比 int8 小 2.816GiB。第三方配方的实测结论很直接:照卡片示例下 int8,四文件合计 19.343GiB,16GB 卡装不下。两条命令的差别只在一个文件名,代价是近 3GB 显存和一次完整的重下。

坑 2:编辑模板到底有没有 upsampler 分支,官方说法和实际模板不一致。

官方 model card 称编辑模板没有 upsampler 分支,需要自备一个 LLM 先跑提示词增强,再把扩写后的提示词粘进节点。但 v0.41.2 的编辑模板里实际含有一个默认关闭的 upsampler 分支:TextGenerate 节点、W4A8 loader、以及一段图像编辑专用的 system prompt 都在,把开关打开就能在流程内完成增强。两条路都能走——想省一次外部调用就开分支,想用自己更熟的模型就外部生成再粘贴。别因为读了 model card 就以为模板里没有,也别因为模板里有就以为可以不带。

坑 3:不带 upsampler 直接用,编辑与 Ref2Image 结果不稳定。

这是坑 2 的下游后果。model card 那句 "Do not use the model without a prompt upsampler." 是明文禁止,不是建议。省掉这一步,文生图还能看,编辑和多参考生成会开始飘:未编辑区域该保持的地方被重绘、参考图的人物特征漂移、bounding box 指定的落位偏移。判断方法很简单,同一提示词开一次 upsampler 再关一次,对比未编辑区域是否逐像素保持。

更隐蔽的一种表现是「看起来成功了」:出图完整、构图也对,但原图里的一块纹理被轻微改写,缩略图看不出来,放大到 100% 才发现。做商品图、人像修复这类要求原样保留的场景,验收必须放大到像素级,别只看整体构图。

八、Diffusers 路线:代码党怎么接

不想装 ComfyUI,或者要把出图流程嵌进自己的服务,走 Diffusers。

权重来源是清晰的:distilled 在 huggingface.co/black-forest-labs/flux-3-image-klein,base 在 huggingface.co/black-forest-labs/flux-3-image-klein-base,用 huggingface_hub 拉取后交给 Diffusers 加载。官方提供参考推理代码,也提供带 bounding box 控制的 Gradio demo,base 仓库适合微调、distilled 适合直接出图。

这里必须诚实一句:本文没有实抓官方 Diffusers 文档,所以不写具体类名与调用参数。写成「某某 Pipeline.from_pretrained 三行搞定」很漂亮,但类名一旦猜错,读者复制过去就是一堆 ImportError,比不写更糟。具体 API 请以两个仓库的 README 与示例脚本为准,版本迭代很快。

另外,Diffusers 路线在显存管理上更依赖你自己。ComfyUI 的按需加载与卸载是内置的,迁到 Diffusers 之后,模型拆成几个组件加载、什么时候搬上 GPU、什么时候换回 CPU,都得自己写。8GB 卡上这一步不做,很可能第一张图就 OOM。

九、LoRA 与微调:现成 recipes 已经有了

训练侧不用从零搭。Ostris AI Toolkit 与 NVIDIA NeMo AutoModel 都提供了 FLUX 3 Klein 的现成 recipes,前者在社区里用得多、上手快,后者适合已有 NVIDIA 训练栈的团队。官方公布的训练硬件是 NVIDIA GB200 NVL72,这是训练侧的口径,跟你本地 8GB 推理没有关系。

推理侧挂 LoRA 的成本官方给了个数:生成时间增加约 5%。这个量级意味着风格化 LoRA 可以常驻,不必来回卸载。要微调就选 base 变体,distilled 是为少步推理蒸馏过的,拿它做微调起点不划算。

十、验收清单与许可提醒

出图之后按这四条验收,能挡住大部分「看着不对但说不出哪不对」:

  1. 分辨率宽高是否都是 16 的倍数,输出尺寸和设定是否一致。
  2. upsampler 是否真的生效——看节点是否执行、看扩写后的提示词长度。
  3. 编辑任务里未编辑区域是否保持,逐像素对比原图。
  4. 显存峰值是否留有余量,16GB 卡跑 4K 时特别要看这一条。

再提醒一句版本问题:本文的模板 id 与文件字节数对应 ComfyUI v0.41.2 与 2026-10-17 的仓库快照,几周后可能变化。下文件前先核对字节数,对不上就以仓库当前列表为准,别硬套数字。

许可是最后一道坎,也是最多人忽略的一道。FLUX 3 Klein 用的是 FLUX Kommunity License(v1.0)。官方博文与 VentureBeat 已确认的三条是:个人与年化总营收低于 500 万美元的公司可免费商用;研究与非商用对所有人免费;超过门槛的组织需要自托管商业许可或走 API。触发口径按年度总营收加关联方合并计算。该许可对输出审核与再分发另设条件。

必须说清一件事:Klein 自身的 LICENSE 全文没有实抓(仓库 gated),所以上面三条之外不展开、不推测。商用前请自己打开仓库里的 LICENSE 原文逐条读,本文不构成法律意见。

常见问题

Q1:8GB 显存到底能不能跑 4K? A1:官方只说 INT8 构建可在最低 8GB 的 RTX 上运行,没有绑定分辨率和生成时间,官方速度图也没测 8GB 配置与 4K 输出。所以「8GB 能跑」是官方口径,「8GB 能跑 4K」是没被验证的组合。想稳,先在 1024×1024 跑通,再逐级加分辨率看显存峰值。

Q2:下载时报 401 GatedRepo,是网络问题吗? A2:不是。这是仓库侧的许可判定,说明当前身份没被记录为已同意条款。解决顺序是先登录网页接受许可,再 hf auth login,且两者必须是同一个账号。换镜像、重装客户端都无效。

Q3:四个文件必须全下吗,能不能省掉 upsampler? A3:技术上能启动,但不建议。官方 model card 明文写 "Do not use the model without a prompt upsampler.",省掉之后编辑与多参考生成的结果会明显不稳。真要用外部 LLM 做增强,也得保留扩写这一步,只是把执行位置换到流程外。

Q4:upsampler 下 int8 还是 w4a8? A4:按 ComfyUI v0.41.2 模板走就下 w4a8,6,724,090,780 字节。int8 版是 9,748,113,996 字节,四文件合计 19.343GiB,第三方配方实测 16GB 卡装不下,两者差 2.816GiB。

Q5:能商用吗? A5:个人与年营收低于 500 万美元的公司可免费商用,研究与非商用免费,超门槛需自托管商业许可或走 API,这是官方博文与 VentureBeat 已确认的口径。许可全文因仓库 gated 未实抓,具体条款以 LICENSE 原文为准。

延伸阅读

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-10-17

常见问题

8GB 显存到底能不能跑 4K?
官方只说 INT8 构建可在最低 8GB 的 RTX 上运行,没有绑定分辨率和生成时间,官方速度图也没测 8GB 配置与 4K 输出。所以「8GB 能跑」是官方口径,「8GB 能跑 4K」是没被验证的组合。想稳,先在 1024×1024 跑通,再逐级加分辨率看显存峰值。
下载时报 401 GatedRepo,是网络问题吗?
不是。这是仓库侧的许可判定,说明当前身份没被记录为已同意条款。解决顺序是先登录网页接受许可,再 hf auth login,且两者必须是同一个账号。换镜像、重装客户端都无效。
四个文件必须全下吗,能不能省掉 upsampler?
技术上能启动,但不建议。官方 model card 明文写 "Do not use the model without a prompt upsampler.",省掉之后编辑与多参考生成的结果会明显不稳。真要用外部 LLM 做增强,也得保留扩写这一步,只是把执行位置换到流程外。
upsampler 下 int8 还是 w4a8?
按 ComfyUI v0.41.2 模板走就下 w4a8,6,724,090,780 字节。int8 版是 9,748,113,996 字节,四文件合计 19.343GiB,第三方配方实测 16GB 卡装不下,两者差 2.816GiB。
能商用吗?
个人与年营收低于 500 万美元的公司可免费商用,研究与非商用免费,超门槛需自托管商业许可或走 API,这是官方博文与 VentureBeat 已确认的口径。许可全文因仓库 gated 未实抓,具体条款以 LICENSE 原文为准。

相关文章

实战 SOP

ComfyUI视频生成SOP:12GB显卡跑通LTX-2.5

ComfyUI 本地视频生成 SOP,以 LTX-2.5 为实例跑通 12GB 显卡。模型文件与目录(int8_convrot 构建,非 BF16):transformer 进 models/diffusion_models/、gemma4-12b-with-proj 进 models/text_encoders/、视频与音频两个 VAE bf16 进 models/vae/、2x latent 上采样器进 models/latent_upscale_models/。坑点先列:音频 VAE 是独立文件,跳过它=无声视频;提示词增强器约 5GB 额外模型且每代多 1-2 分钟,默认关;HF gated=auto 需登录同意条款才能下载(连模型卡都要登录)。硬件底线:distilled/int8 12GB 显存起步,CUDA 12.7+、PyTorch 约 2.7、Python 3.12+(innfactory 整理口径);8GB 卡建议改走 Wan 2.2 TI2V-5B+offload。工作流三型:T2V/I2V 两阶段(生成+2x latent 上采样精修)、单阶段(快、预览用)、A2V(音频驱动)。显存策略:量化/distilled 优先、ComfyUI 原生 offload、短低分辨率生成再上采样。仓库地址:github.com/Lightricks/ComfyUI-LTXVideo、huggingface.co/Lightricks/LTX-2.5。

2026年10月10日9 分钟阅读
实战 SOP

LLaDA-Image 本地部署 SOP:五步跑通 6B 生图模型

把蚂蚁开源 6B 生图模型 LLaDA-Image 跑起来的五步 SOP:①环境准备(依赖与国内镜像加速下载);②四档权重怎么选(Base 50 步 / Turbo 4 步 × BF16 / FP8,国内走 ModelScope);③跑通第一张图(Base 与 Turbo 最小可用命令);④进阶(参考图编辑、文字渲染、ComfyUI 接入、显存不足时的降级策略);⑤生产化(批量队列、并发容量规划、成本监控、结果入库与故障降级)。含 6 条踩坑与 10 项上线自检清单,命令逐字取自官方 README;仓库 license 为 null,商用前须确权。

2026年9月9日11 分钟阅读
实战 SOP

世界模型 本地部署:Matrix-Game 4.0 单卡能跑通吗

Matrix-Game 4.0 单卡本地部署九步 SOP,所有命令与参数均取自 v4 子目录 README 原文(仓库地址:github.com/SkyworkAI/Matrix-Game,文件 Matrix-Game-4/README.md)。一、前置条件先对齐:模型推理需 Linux 加 NVIDIA GPU 加 Python 3.12 三者同时满足,A100 80GB 参考部署用 PyTorch 2.12.0 / CUDA 13.2;仓库另内置 RTX 5090 专用运行时且不会自动识别硬件,必须显式选 preset;浏览器 demo 服务端须为 Linux 主机(同时构建游戏与 GStreamer 管线),桌面客户端 Safari/Chrome 不需要 GPU;单机游玩录制需 macOS 或 Linux 加 CMake、C++20、SDL2 与 FFmpeg,旧 Windows 入口保留但未验证功能等价;权重与素材不随仓库分发,需为 HF Hub 缓存预留额外空间。二、安装须在 Matrix-Game-4/ 子目录内执行(进错目录后面全错):git clone 后 cd Matrix-Game/Matrix-Game-4,python3.12 -m venv .venv 与 source .venv/bin/activate 隔离环境,pip install torch==2.12.0 torchvision==0.27.0 --index-url https://download.pytorch.org/whl/cu132(版本须成对),再 pip install -e '.[inference,server,download,test]'(四个 extras 少装一个就可能报缺模块);FlashAttention 可选,只有 rtx5090-sage 需要 SageAttention,普通 rtx5090 走 PyTorch SDPA。三、资源下载分两份清单(游戏素材与模型权重),命令带固定的 repo id 与 revision(4419accdb7bb7881234c5914de8cd915266e0325),--scene 可用 castle/racing/all 切换,单进程只支持一个场景模型;下载器按清单校验大小与 SHA256 故可断点重跑,共享 T5/tokenizer 与 Wan VAE 自动从官方 base 拉取;可用 matrix-game verify 复查完整性。四、离线渲染先验模型能出片:matrix-game render --scene ancient-egypt --input lowpoly.mp4 --resources resources --preset realtime --prompt-mode fixed --output outputs/egypt;输入是低模代理画面而非真实录像,输出 rendered.mp4 加配置报告且 FPS 与帧数保持(尾块内部补齐后裁掉);三个 preset 分工必须记牢——realtime 用于 A100、5090 换 rtx5090,而 quality 更慢却恰恰是省略 --preset 时的默认值,不写 preset 就默认吃最慢配置。五、本地游玩与录制不加载模型:bash scripts/build_game.sh 后 bash scripts/play.sh --scene ancient-egypt,射击两场景为 48 FPS 加 2 倍模拟时间,F9 录制、Esc 菜单,环境变量 MATRIX_GAME_DATA_DIR 可覆盖默认目录;赛车走 build_racing.sh 且 48 FPS 录制用 1 倍模拟时间,浏览器 demo 也不启用射击的 2 倍模式(每帧推进 1/--fps 秒)。六、浏览器 demo 服务端与客户端分离:终端一 mediamtx configs/mediamtx.yml,终端二 CUDA_VISIBLE_DEVICES=0 bash scripts/serve.sh --scene ancient-egypt --resources resources --preset realtime --fps 40,访问 http://127.0.0.1:8025/,加 --reference-only 可在不加载模型下测控制/HUD/音频/传输;--fps 40 是采集节奏目标而非吞吐或延迟保证。七、RTX 5090 两个预设:rtx5090 免额外安装,rtx5090-sage 需构建 SageAttention 2.2.0 加官方 CUDA-graph 补丁加 CUDA 13.2(git checkout eb615cf6cf4d221338033340ee2de1c37fbdba4a);两者均复用同一套场景 checkpoint 与共享资源,DiT 块线性权重加载时转 FP8、推理时量化激活而 Embedding 与输出头保持 BF16;启动会预热核并捕获 CUDA graph,故首启慢于稳态。八、验收双口径:浏览器 demo 按键到画面响应(官方口径约低于 150ms,未独立复测),或离线渲染低模视频得到精细输出;性能三口径并写(官方 480p 60FPS/83FPS/18.5GiB、官网面板仍为 0 占位、README A100 864×480 约 38-39 FPS),且模型吞吐、管线吞吐、呈现帧率与端到端延迟是四件事。九、六条坑:单进程仅一会话一场景模型、默认绑回环勿暴露公网(官方称可信单用户 demo 非公网云游戏服务)、--fps 40 非吞吐保证、Windows 未验证、磁盘含 Hub 缓存要预留、显存分 A100 80GB 与 RTX 5090 两档(5080/5070 待发)。

2026年10月16日10 分钟阅读