开源项目
开源项目

小米开源训出MiMo-V2.6的RL基建:verl五套环境拆解

XiaomiMiMo/verl 仓库实核(2026-09-27 GitHub API 快照:465 星、49 fork、Python、Apache-2.0、created 2026-09-21、pushed 2026-09-26)。它是训出 MiMo-V2.6 的 Agentic RL 训练代码,fork 自 23,650 星的 verl-project/verl(HybridFlow),基于 verl 0.9.0.dev 增加五套 RL 环境复现代码:Code 软件工程(可执行测试)、Cyber 漏洞复现(规则检查)、General 知识工作(Rubric 评审)、Visual 网页开发(视觉评分)、Music 符号作曲(规则检查),各配启动脚本。训练数据集 HF MiMo-V2.6-RL-oss 与技术报告 PDF 一并开放;同日还有 uni-agent(14 星)与 mimoagent(30 星、MIT)构成全家桶。分叉度无从核实,正文只写 README 可证事实;许可证以仓库 LICENSE 原文为最终口径。

发布于 2026年9月27日9 分钟阅读
<!-- mimo-verl-resource | open-source | 小米开源训出MiMo-V2.6的RL基建:verl五套环境拆解 -->

小米九月底这波开源,最值钱的可能不是模型,而是训出模型的那套基建。2026 年 9 月 22 日,小米发布并开源 MiMo-V2.6 全模态模型系列(Pro 与 Flash 两个原生全模态模型);而在 9 月 21 日,小米同日创建了三个仓库,把支撑这批模型训练的强化学习基建直接摊开。其中分量最重的是 XiaomiMiMo/verl。截至 2026 年 9 月 27 日 GitHub API 快照:465 颗星、49 个 fork,Python 编写,Apache-2.0 协议,创建于 9 月 21 日,最近一次推送停在 9 月 26 日。

先把性质说清楚,免得传着传着走样:它不是小米原创的 RL 框架,是 fork。上游 verl-project/verl 在 2026 年 9 月 27 日快照下有 23,650 颗星,由字节跳动 Seed 团队发起、verl 社区维护,开源版本对应的正式名字叫 HybridFlow,论文中稿 EuroSys 2025,2026 年 1 月项目整体迁移到独立的 verl-project 组织。GitHub 的 fork 关系写得明明白白,小米自己的 README 也只说了一句话:这个 fork 在 verl 0.9.0.dev 之上增加了五套 RL 环境的复现代码,定位是「Agentic RL training code for MiMo」,训练配方详见技术报告第 7 节。

站在巨人肩膀上、加自己最值钱的那一层,这是成熟团队的打法。真正值得展开的,是那五套环境。它们覆盖五个领域:Code 软件工程、Cyber 漏洞复现、General 知识工作、Visual 网页开发、Music 符号音乐作曲,每套配独立验证器、启动脚本和环境变量样例。这五套环境对应着 MiMo-V2.6 训练时的主战场。按小米官方口径(经第三方 AI 工具集转述),MiMo-V2.6 的核心是以可验证复杂任务为奖励的大规模 Agentic RL:约 6 天 Live RL、约 75 万条轨迹、训练上下文 1M、单步更新推到 2.7 至 3.7B token,大 Batch 配全异步架构。环境决定模型能练什么,验证器决定模型学成什么样。

五套环境逐个拆:验证器是灵魂

Code,软件工程,验证器是可执行测试,启动脚本 scripts/code/train.sh,配置样例 scripts/code/env.example。这是 Agentic RL 里最经典的一类任务:模型在真实代码库里改代码、修问题,奖励由测试套件跑不跑得过来判,不靠人打分,也不靠另一个模型当裁判。可执行测试是所有验证器里最硬的一种,奖励信号明确,可钻的空子最少。素材里提到 MiMo-V2.6 在 DeepSWE v1.1 样本外有明显提升,背后就是这类环境的功劳。

Cyber,漏洞复现,验证器是规则检查,启动脚本 scripts/arvo/arvo.sh,配置样例 arvo.env.example。让模型在受控环境里复现已知漏洞,奖励按规则判定:触发条件是否成立、复现路径是否走通。把漏洞复现做成 RL 环境训练安全能力,这在开源框架圈子里相当少见,也解释了为什么官方能力列表里安全是一条独立线。

General,知识工作,验证器是 Rubric 评审,启动脚本 scripts/general/general.sh。这类任务没有唯一正确答案,比如写一份调研、做一次分析、产出一份文档,验证器从「对错判定」换成「按评分细则逐项打分」。Rubric 评审是五套里最依赖设计功夫的:细则切得越细、越可观察,奖励信号就越稳,越不容易被钻空子。

Visual,网页开发,验证器是视觉评分,启动脚本 scripts/design/webdev.sh。网页开发任务的产出要看渲染效果:布局对不对、样式还原度如何、页面是否可用。验证器从文本空间挪到视觉空间,等于给模型的「眼睛」也接上了奖励信号。这是全模态模型训练里最容易被忽视、又最难做对的一环,因为视觉质量的评分标准远比单元测试模糊。

Music,符号音乐作曲,验证器是规则检查,启动脚本 scripts/design/music.sh。乐理规则天然适合形式化检查:音程、和声、节奏、曲式结构是否合乎规范,机器可判。把「作曲」这种看似感性的创作任务也纳入可验证奖励体系,是这套环境矩阵里最有想象力的一个,等于宣告凡是能写出规则的领域,都可以上 Agentic RL。

五套环境摆在一起看,验证器的设计哲学很清晰:能形式化的用形式化手段(可执行测试、规则检查),不能形式化的用结构化评审(Rubric 逐项打分、视觉评分)。覆盖范围从纯文本代码到视觉再到符号音乐,恰好铺满一个全模态模型的能力光谱。

为什么要专门强调验证器?因为 Agentic RL 的成败有一大半押在这里。RL 靠奖励信号驱动,模型会想方设法把奖励做高,而不是把任务做好——这就是 Reward Hacking。奖励信号一松,模型学到的不是能力而是套路。小米官方口径里也把压制 Reward Hacking 列为稳定性设计的重点:奖励设计、对抗评测、异常检测、验证器交叉校验,四道防线一起上。这套五环境矩阵等于把防线的第一道,也就是「奖励从哪来」,原样开源了出来。看懂验证器设计,比看懂启动脚本有用得多。

仓库里还有什么:子模块、镜像与训练模型

光有环境配置表还不够,跑起来要靠一整套配套。README 交代了三件东西。

其一是两个子模块,放在 third_party 目录下,用 git submodule update 初始化。第一个是 mimoagent(third_party/mimoagent-osr,SWE-agent 团队 mini-swe-agent 的 fork),负责 agent 的 harness、工具、执行环境与评分器,Code、Cyber、General、Visual 四套环境都靠它跑,其中后三套通过 verl 的 AgentLoop 直接驱动它,胶水代码在 recipes 目录下。第二个是 uni-agent(third_party/uni_agent,verl-project/uni-agent 的 fork),负责模型网关和 TransferQueue 轨迹捕获,只有 Code 环境用它:它替掉 verl 自带的 agent-loop 管理器,把 mimoagent 的 harness 跑在 uni-agent 会话里。README 特别强调:两个子模块互不导入,胶水都在 recipes 里,Music 环境两个都不用。这个解耦设计说明各环境的依赖边界划得很清楚。

其二是 Docker 镜像,托管在 Docker Hub 的 xiaomimimo/mimo-v2.6-rl-oss。RL 环境要跑测试、跑浏览器、跑音频处理,依赖链极其复杂,官方镜像直接替你把环境踩平了,这比 README 写十页安装指南都实在。

其三是训练模型 MiMo-V2.6-Distill-Qwen-9B,托管在 Hugging Face。也就是说,完整复现链路的起点不是那个参数量未公布的旗舰模型,而是一个 9B 的蒸馏模型。对算力有限的团队来说,这是好消息:五套环境加 9B 模型,复现门槛被压到了相对现实的量级。

使用门槛只有一个:每个启动脚本都会读取同目录下 env.example 文件里列出的环境变量,先按样例设好变量再启动。这个约定看着朴素,实际上降低了踩坑成本——环境变量全部显式列出,不存在藏在代码深处的隐式配置,调参时改哪里一目了然。

数据集与技术报告:复现路径拼齐了

单看代码,开源训练框架市面上不少;这个仓库真正的含金量在于,小米把复现需要的三样东西全放开了:环境代码、训练数据、训练配方。

训练数据集 MiMo-V2.6-RL-oss 开放下载,托管在 Hugging Face。多数团队开源训练框架时数据是缺位的,没有数据,环境复现只是个空壳子,你不知道任务长什么样、奖励该怎么对齐。数据开放还有第二层意义:别人可以直接拿这套数据做对照实验,检验环境设计里哪些成分真正起作用,这对学术圈和工程团队都是可直接消费的素材。技术报告 PDF 放在 HF 的 XiaomiMiMo/MiMo-V2.6-Pro-RL 仓,文件名 MiMo_V2_6_technical_report.pdf,训练配方在第 7 节,报告标题就叫 Scaling Reinforcement Learning Towards Self-Improvement。环境怎么配、奖励怎么算、稳定性怎么压 Reward Hacking,报告里有文字版,仓库里有可执行版,两边互相印证。

把这三样拼起来,一条完整的复现路径就出现了:拉仓库、初始化子模块、拉 Docker 镜像、下数据集、按报告第 7 节设参、跑对应环境的启动脚本。对做 Agentic RL 的团队来说,这比多一个跑分模型值钱得多——同行开源的是「结果」,小米开源的是「过程」。

同日全家桶:三仓一套

9 月 21 日创建的不止 verl fork 一个,还有两个配套仓。uni-agent,14 颗星,Apache-2.0,定位长程 Agent 训练框架;mimoagent,30 颗星,MIT 协议,README 自称「100 行解决 GitHub issue 的极简 Agent」。三个仓同一天创建,角色分工清楚:verl fork 是训练主仓,uni-agent 管长程训练与轨迹捕获,mimoagent 当轻量执行器。这不是零散开源,是一套完整的训练基建全家桶。

值得注意的细节是 uni-agent 的 fork 身份:它是 verl-project/uni-agent 的 fork,而后者本身是 2026 年 5 月发布、构建在 verl 之上的统一 agent 框架。小米在自己 fork 的 RL 环境里复用了上游生态的组件,又把改造后的版本回馈成独立仓库,形成一个小闭环。

冷思考:别急着喊超越上游

四件事需要冷静看。

第一,生态还很早期。465 颗星对比上游 23,650 颗星,这个 fork 目前是小体量项目,issue 池、社区讨论、第三方教程都接近于零。拿它当生产工具,坑得自己踩。反过来想,这个阶段入场也有好处:问题少、反馈快、有可能直接影响项目走向,适合有明确 Agentic RL 需求且愿意啃源码的团队先行验证。

第二,分叉细节未明。GitHub compare 显示 fork 相对上游 ahead_by 为 0、behind_by 为 16,上游在 9 月 26 日前后仍活跃提交,也就是说上游有几批提交是这个 fork 还没合入的。至于小米在 fork 里改了什么、改了多少、是否打算回馈上游,README 没有交代,无从核实。所以「小米版本领先上游几个提交」这类说法既没人证实也没人能写,事实层面能说的只有 README 里那五套环境的复现代码。

第三,上游没有停步。翻上游 README 的时间线:2026 年 7 月 RL-Insight 发布,6 月 verl-SpeCo 预发布,5 月 uni-agent 与 verl-Omni 发布,verl 主仓的迭代节奏没有放缓。fork 能不能跟上上游演进、长期怎么维护,是小米团队接下来要回答的问题。

第四,许可证口径。GitHub API 元数据标注 Apache-2.0,一句提醒:以仓库 LICENSE 文件原文为最终口径。

写在最后

回到开头的问题:开源训出模型的基建,图什么?对小米,这是一次围绕 MiMo-V2.6 的生态卡位——让做 Agentic RL 的团队直接踩在小米踩过的环境上;对行业,它补上了一块少见的拼图:旗舰模型背后的 RL 环境设计与验证器方案第一次摊开可看。五套环境、验证器设计、数据集、技术报告、官方镜像,链条是完整的。短板同样明确:生态早期、分叉细节未明、上游仍在快跑。想上车的团队,建议先读技术报告第 7 节,再决定值不值得 fork 一份自己改。

顺带理清两个容易混淆的站内话题:小米 6 月开源的 MiMo-Code 是终端编码助手,是产品,和这篇的训练基建是两回事,详见 MiMo-Code 资源篇。如果想要同主题的更多切面,本批同期还有 MiMo-V2.6 热点篇、Agentic RL 框架横评 和 MiMo-V2.6 接入 SOP,分别覆盖发布事件、框架选型对比与落地流程。另外说一句分工:站内的通用微调 SOP 讲的是 SFT/LoRA 那条通用路线,本文聚焦的是 Agentic RL 训练基建,两条路线互为补充,选型时按任务性质对号入座。想对比其他开源旗舰的成色,也可以看 Kimi K3 开源篇。

常见问题

**Q1:**XiaomiMiMo/verl 是小米自研的 RL 框架吗? **A1:**不是。它是 verl-project/verl(HybridFlow,23,650 颗星,字节跳动 Seed 团队发起、社区维护)的 fork,小米在其基于 verl 0.9.0.dev 的版本上增加了五套 Agentic RL 环境的复现代码,README 原文定位就是 Agentic RL training code for MiMo。

**Q2:**五套环境的验证器分别是什么? **A2:**Code 用可执行测试,Cyber 用规则检查,General 用 Rubric 评审,Visual 用视觉评分,Music 用规则检查。启动脚本分别是 scripts/code/train.sh、scripts/arvo/arvo.sh、scripts/general/general.sh、scripts/design/webdev.sh、scripts/design/music.sh。

**Q3:**复现需要哪些材料,从哪里拿? **A3:**四样:仓库本体(含 third_party 下的 mimoagent 与 uni-agent 子模块)、Docker 镜像 xiaomimimo/mimo-v2.6-rl-oss、Hugging Face 上的训练数据集 MiMo-V2.6-RL-oss、技术报告 PDF(训练配方在第 7 节),训练模型为 MiMo-V2.6-Distill-Qwen-9B。

**Q4:**许可证是什么,商用前要注意什么? **A4:**GitHub API 元数据标注为 Apache-2.0,uni-agent 同为 Apache-2.0,mimoagent 为 MIT。商用前以各仓库 LICENSE 文件原文为最终口径逐一核对。

**Q5:**它比上游 verl 强吗?该用哪个? **A5:**没有可比基础。GitHub compare 显示 fork 相对上游 ahead_by 0、behind_by 16,分叉细节未核实,且上游仍在活跃迭代。要通用 RL 后训练框架用上游,要复现 MiMo-V2.6 的五套 Agentic RL 环境用这个 fork。

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-09-27

常见问题

XiaomiMiMo/verl 是小米自研的 RL 框架吗?
不是。它是 verl-project/verl(HybridFlow,23,650 颗星,字节跳动 Seed 团队发起、社区维护)的 fork,小米在其基于 verl 0.9.0.dev 的版本上增加了五套 Agentic RL 环境的复现代码,README 原文定位就是 Agentic RL training code for MiMo。
五套环境的验证器分别是什么?
Code 用可执行测试,Cyber 用规则检查,General 用 Rubric 评审,Visual 用视觉评分,Music 用规则检查。启动脚本分别是 scripts/code/train.sh、scripts/arvo/arvo.sh、scripts/general/general.sh、scripts/design/webdev.sh、scripts/design/music.sh。
复现需要哪些材料,从哪里拿?
四样:仓库本体(含 third_party 下的 mimoagent 与 uni-agent 子模块)、Docker 镜像 xiaomimimo/mimo-v2.6-rl-oss、Hugging Face 上的训练数据集 MiMo-V2.6-RL-oss、技术报告 PDF(训练配方在第 7 节),训练模型为 MiMo-V2.6-Distill-Qwen-9B。
许可证是什么,商用前要注意什么?
GitHub API 元数据标注为 Apache-2.0,uni-agent 同为 Apache-2.0,mimoagent 为 MIT。商用前以各仓库 LICENSE 文件原文为最终口径逐一核对。
它比上游 verl 强吗?该用哪个?
没有可比基础。GitHub compare 显示 fork 相对上游 ahead_by 0、behind_by 16,分叉细节未核实,且上游仍在活跃迭代。要通用 RL 后训练框架用上游,要复现 MiMo-V2.6 的五套 Agentic RL 环境用这个 fork。

相关文章

开源项目

不造 Agent,借 Codex 出片:开源工作台 12078 星

krillinai/OpenCreator 是 krillinai 团队维护的开源 AI 创作工作台与 Skills 集合(前身 KrillinAI),Apache-2.0 宽松许可、可商用可自部署。截至 2026-09-22 的 GitHub 快照有 12,078 星、1,222 fork、主语言 TypeScript、创建 2024-12-17、最近 push 2026-09-21、31 个未关闭 issue(数字为当日快照,不代表以后水位)。核心设计取向是本地优先:项目数据、附件、日志默认留在本机(SQLite 与文件系统,Codex 会话与配置留在 CODEX_HOME),Daemon 只监听 127.0.0.1 且除健康检查外均需 Bearer 令牌,HTML 预览默认禁脚本与导航,桌面包启用 ASAR 完整性校验与 Cookie 加密。最关键的架构判断是不重造 Agent loop,直接把 Codex CLI 当执行引擎,外壳只加本地 Runtime、可视化工作台与桌面宿主三层,因此 Agent 循环、会话、推理、工具调用、Skills 与 MCP 全部来自 Codex;好处是不维护第二套引擎、能力跟着 Codex 走、Skills/MCP 走 Codex 原生配置,代价是强依赖 Codex 生态、能力上限受 Codex 约束、可用模型取决于本地 Codex 环境与 AI 服务设置。README 文字称十个创作工具而同文档表格列了十二行(十个可用、两个开发中:Auto Clips 与 Digital Avatar),另内置七个视频生产 Skill(KrillinAI CLI、Subtitle、TTS、Landscape 与 Portrait Render、Cover、Pipeline Plan)。须点明:仓库含某 Skill 不等于自动安装,也不等于外部服务已打包;它不是剪映的开源替代,核心是 Agent 加创作工具加 Skill 编排,不含多轨时间线剪辑器。

2026年9月22日8 分钟阅读
开源项目

Qwen-MM-Plugins 深拆:让任意 agent 原生多模态

QwenLM/Qwen-MM-Plugins(2,908 星、Python、Apache-2.0、2026-07-29 创建、最近 push 2026-09-18,截至 2026-09-19 GitHub API)定位"让任意 agent harness 原生支持多模态":Skill 加 MCP 双层的按需感知插件集,接入 Claude Code、OpenClaw 等主流框架,补上 2026 年 coding agent 看不了音视频的短板。核心判断:它背靠 QwenLM 官方生态位,与 Qwen3.8-Omni-Flash 协同演进,是"模型加工具链"打法的具体落子;Apache-2.0 许可无商用红线,但插件深度绑定千问系模型,换底座时的迁移成本要心里有数。

2026年9月19日8 分钟阅读
开源项目

Harbor 与 Terminal-Bench:自建评测,验证厂商分数

2026-09-01 Anthropic 发布 Fable 5.1/Mythos 5.1,官方 Terminal-Bench 4.0 成绩为 Fable 5.1 55.8%、Mythos 5.1 60.9%、GPT-5.6 Sol 37.3%;同日 harbor 仓库有代码推送。本文讲怎么用开源工具链把这些分数从"只能引用"变成"可以复核"。GitHub API 实测:harbor-framework/harbor(4872★/1705 fork/Python/Apache-2.0/创建 2025-08-04/push 2026-09-01)是评估框架,harbor-framework/terminal-bench(594★/push 2026-09-01,最活跃)是任务与基准套件;原 laude-institute/terminal-bench 已 301 更名为 terminal-bench-1(2559★但停在 2026-07-11),勿混用。Terminal-Bench 4.0 重新标定配额、移除 8 任务修复 19,分数与旧版不可比。给出自建评测四步:先写私有任务集、harness 配置入版本库、重复跑报分布、成本与失败模式列为一等公民。

2026年9月1日9 分钟阅读