首页

开源项目

GitHub 实核数据 + 实战解读的开源 AI 项目盘点。

一张4090跑世界模型:腾讯混元Hy-Nomas开源深评

腾讯混元开源交互式视频世界生成模型 Hy-Nomas(代码 10-21 先行、权重 10-23 上线,约 8B,Apache 2.0 附第三方声明):文本+镜头轨迹多轮控制、persistent KV cache 跨段记忆,54 块双流 MMDiT 加 Qwen2.5-VL-7B 文本编码器;输出 704×1280@24FPS(播放帧率非生成速度),4/6/8 步蒸馏三口径并存;Hy-Nomas-Bench 280 用例系官方自报、发布时无第三方横比。单卡 RTX 4090 依托 INT8 权重+FP8 解码器+CPU offload 可跑(最小下载约 22.5GB),折损如实写明:INT8 不可挂 LoRA、滑窗牺牲长程记忆、FP8 内核仅编 SM89(3090 不行)。冷水:KV cache 不保证 3D 场景图稳定、无确定性刚体物理、官方零显存与延迟数字。

8GB 跑 7.5 万个 agent:AWS 开源挂起运行时 Infinity

AWS 开源挂起式 agent 运行时 Infinity:代码在 hydro-project 组织(aws/ 与 aws/hydro 均 404),Apache-2.0、Rust 实现,Hydro 项目出自 AWS 与 UC Berkeley 合作。官方基准 80,000 个 agent、每个 20 轮共 320 万次 completions,单线程 EPYC 9R14 上每 agent 内存约 100KB,据此推算 8GB 内存约容纳 75,000 个(推算值,树莓派 5 仅为内存类比)。本文拆 serverless 四件套设计、模拟模型基准限定词、社区批评清单(持久化 I/O、竞态转移、25 stars 未受市场检验)与上手路径。

0.9B 小模型登顶 OCR 榜:GLM-OCR 凭什么?

智谱 2026 年 2 月 3 日开源的 GLM-OCR 只有 0.9B 参数(0.4B CogViT 编码器 + 0.5B GLM 解码器),却在 OmniDocBench v1.5 厂商自报榜拿下 94.62,高于 Gemini-3 Pro 的 90.33 与 GPT-4o 的 75.02,官方口径成本约为传统方案十分之一。本文拆许可证三方拆分(权重 MIT、代码与 PP-DocLayoutV3 均为 Apache-2.0)、MTP 吞吐提速约 50% 的架构、「登顶成色」三条裁决(PaddleOCR-VL-1.6 已后超、跨榜不可直比、宣传语与表内方向相反),以及老旧扫描件仅 37.6% 的短板与 SDK/vLLM/SGLang/Ollama 四条上手路径。

M3.1 Flash 权重开好了,GitHub 却搜不到

2026 年 10 月 23 日,MiniMax 开源 M3.1 Flash 权重:428B 总参、23B 激活的 native 多模态 MoE,1M token 上下文,MSA 全模型稀疏注意力(arXiv:2606.13392),DSpark 投机解码取代 EAGLE 式 MTP。权重落在两处:Hugging Face 的 MiniMaxAI/MiniMax-M3.1-Flash(公开、非 gated)与魔搭的 MiniMax/MiniMax-M3.1-Flash(发布日实测页面与 API 均 200);GitHub 上没有以模型命名的代码仓(github.com/MiniMax-AI/MiniMax-M3.1-Flash 实测 404,组织页 37 个仓库只有内核库 MiniMax-AI/MSA)。许可证以 LICENSE 原文为准:MiniMax Community License——非商用免费;商用须显著标注 Built with MiniMax M3.1-Flash;年营收超 2000 万美元须事先书面授权([email protected]),商用定义宽到含 API 转供与微调后部署。战绩三口径并存:上线 72 小时处理超 100 万亿 token(官方公告经媒体转述)、匿名期 13 天累计 200T(官方 10-19)、OpenRouter 匿名期 56.7 万亿(智东西转引,单平台侧);官方口径 Agent 类任务综合使用成本较前代下降 70%。生态名单:华为昇腾、平头哥、昆仑芯、摩尔线程等十家芯片厂与 vLLM、SGLang、FlagOS 适配,昆仑芯 Day 0 完成,其余多为正推进首日接入。M3 与 M3.1 Flash 关系的唯一官方说明:保留 M3 核心 MoE 架构,三处改动——前三层全注意力换稀疏、QAT 量化感知训练、DSpark。分工声明:10-21 揭盅篇管匿名叙事与定价,本篇管权重落地、仓库与协议。

Mistral Large 4:模型已上线,权重和协议还没来

Mistral 于 2026 年 10 月 6 日官宣 Large 4(昵称 Le Chonk)public preview,API 当日开放:总参数 1.05T,每 token 激活 52B(HF 仓库名 Mistral-Large-4.0-1T05-A52B 即此口径;不含 embedding 与 output 层则 49B),1.6B 视觉编码器,160+ 语言训练,3,800 块 Grace Blackwell 在欧洲自有数据中心从零训练;API 上下文标 1M(OpenRouter 与 AA 实测配置为 512K)。定价列表价 $1.36/$0.14/$4.18 每百万 tokens,docs 同页并存一条无截止日的半价列 $0.68/$0.07/$2.09。但截至 10-23 开放权重未落地:HF 仓库只有倒计时占位页、零个可下载文件、license 字段 coming soon,文档 license 只渲染一个词 Open,Artificial Analysis 记录 isOpenWeights 为 false 并归类专有模型;GTC Berlin 10-21 与 NVIDIA 工业联盟再确认「10 月底放权重」。自报基准:DeepSWE v1.1 61.7%、Cybench 93%、漏洞复现修补 82%(第三方数据显示 Opus 5.5 拒答 98.5%、GPT-6 Astra 拒答 100%,第一名含政策差成分)、AutomationBench 59.9%(自家图表里 GLM-5.3 的 62.2 更高)。第三方画像是另一幅:AA Intelligence Index 38(Opus 5.5 为 58)、Omniscience -5.3 负分(裸召回编造多于无知)、vals 榜 45 模型中第 33,约落后前沿 9-12 个月。社区反应两极:性能约 Kimi K3 水平、OpenRouter 价格约 DeepSeek 10 倍的质疑,与 EU 数据驻留的真实辩护并存。本地运行按第三方推算需 400GB 以上快速内存,现阶段单机只有 512GB 统一内存的 Mac Studio M5 Ultra 理论可行。

DeepInfer 开源:155 万亿 Token/天,引擎还是工厂?

DeepSeek 于 2026 年 10 月 20 日宣布全面开源生产级推理框架 DeepInfer,这是第一次能拿到官方生产级引擎而不是对着论文自己拼:仓库 deepseek-ai/DeepInfer 采用 Apache-2.0,开放当日实测 17,902 stars、1,836 fork、188 个 open issue,同步放出的 Token 编解码组件 deepseek-recipe 则是 MIT 协议,两个仓库许可不同。官方自报性能数字全部需要标注为自报口径、目前无第三方复现:单集群服务吞吐 155 万亿 token/天(按谷价折算每卡每小时 38 美元)、首字延迟 400 毫秒、生成速度 230 tokens/s、96% 输入命中前缀缓存、Prefill 每卡吞吐由不计缓存的 6 万提升到 150 万 tokens/s;SWA Bounded Replay 把缓存未命中的重算量固定为最后 128 个 token,使 Prefill 总计算量近乎减半且成本与上下文长度无关;DSpark 推测解码最多 draft 5 个 token,线上吞吐再提升 6%,每卡每秒生成 14K token;MoE 专家副本每 10000 步动态重排,线上最忙的卡仅高出平均负载 9%。硬件覆盖英伟达 SM100 与华为昇腾 950 NPU 双栈,部署路径为 Python 3.12 虚拟环境加 DEEPINFER_ACCELERATOR 环境变量后从源码构建,默认拉取 DeepSeek-V4.1-Flash-1017 权重。但要讲清边界:官方明确 Prefill 与 Decode 分离、数据并行负载均衡以及 KVCache 管理层因与内部基础设施耦合过深尚未完整开源,拿到的是引擎而不是整座工厂;官方也未提供与 vLLM、SGLang、TensorRT-LLM 的横向基准。线上形态是 8 卡服务器承担 Prefill、64 至 128 卡超节点承担 Decode,KVCache 保留 72 小时以上以减少重复计算。

大模型记忆长进身体里:288B 记忆原生模型开源

上海记忆张量(MemTensor)2026-10-20 发布业内首个记忆原生基座模型 MemT 1.0(据团队称)并开放权重:MemT-1.0-Flash(288B 总参/17B 激活/336M 动态记忆)与 MemT-1.0-Nano(36B 总参/3B 激活/10M 动态记忆),业内最大的开源参数化记忆模型。许可证破案(臣核 LICENSE 原文):GitHub API 报 NOASSERTION,LICENSE 原文为 PolyForm Noncommercial 1.0.0——权重公开可下载但为非商业许可,商用需向团队另行授权,另附 LICENSE-PAPER 文件;多家媒体报道写「开源」,正文以 LICENSE 原文为准。记忆原生与传统三类记忆的区别:激活记忆(上下文+KV Cache,会话结束即消失)、参数记忆(微调才更新不可逐条编辑)、外部知识库(靠检索)——MemT 把历史编码为持续存在、可更新的内部状态,在选定 Transformer 层让注意力与参数化记忆并联,记忆成为前向传播的一部分;Gated DeltaNet-2 逐 token 稳定更新(擦除/写入/遗忘/输出四门控)、MoS 混合存储扩容(记忆专家稠密路由、容量独立扩张);训练用 KL 蒸馏(教师读完整上下文、学生只看记忆状态、只优化记忆参数),训练语料 340 亿 token(网易口径)。基准(厂商口径):11 项记忆基准 Flash 50.6 / Nano 47.0 列参数化记忆方法第一、第二,最强参数化基线 Temp-LoRA 38.1(高 12.5/8.9 分);落后于自家 MemOS 文本记忆系统(保真度损失换可学习可扩展,如实并写)。SWE-bench Verified 500 题:66.07% 提升至 69.33%(执行前注入经验)/69.73%(执行中触发),三次全成功率 54.00% 提升至 61.6%/62.8%;Multilingual 60.00% 提升至 62.89%/63.56%。长历史效率(双 GPU 单并发固定 128 token):128K 端到端提速 1.86 倍、持久存储约 1/66;256K 提速 3.99 倍、TTFT 104-112ms vs 传统 445ms;每会话记忆状态约 40MiB 较传统 5.06GiB 缩约 130 倍(1/66 对 KV cache、1/130 对传统完整方案,两口径并写)。长对话召回案例:65K token 对话 4K 精确召回、16K 正确答「我不知道」、64K 区分已确认与仅提议变更。部署时记忆状态与用户/任务轨迹绑定、序列化跨会话延续,原始文本不保留。方向:记忆驱动递归自我改进 RSI;与 MemOS 3.0 组合明文+参数化完整链路。仓库:github.com/MemTensor/MemT-1.0(实测 194 stars)+ HF/ModelScope 集合。与站内分工:hy-memory-2-0-opensource-resource(批 57)是外挂记忆框架(记忆在模型外),本篇是记忆原生模型(记忆长在模型里)——两条路线各开源了一个代表。

AI 记忆框架开源第一:腾讯 3B 干翻 Opus 5

腾讯混元 2026-10-16 把 Hy Memory 2.0 三层全开源:模型层 Hy-Memory-30B-A3B(总参数 30B、每 token 激活约 3B 的 MoE,HuggingFace tencent/Hy-Memory-30B-A3B,arXiv 2610.22196)、SDK 层 hy-memory(PyPI 当前 2.0.3)与工具层 MemHub(CLI v1.0.3,npm memhub-cli 引导安装)。许可证破案:GitHub API 报 NOASSERTION(非标准文本),raw LICENSE 原文为 Apache-2.0 且带 Tencent 前言、无附加限制条目——本文以 LICENSE 原文为准。官方文档模型名混用「Hy-Memory-30A3B」与「Hy-Memory-30B-A3B」两种写法,以 HF 仓库实名为准。官方基准(厂商口径):四套记忆系统对比 55.49 分第一,超过 Opus 5(54.62)与 DeepSeek-Flash(53.64),Qwen3-30B-A3B 仅 44.37;MemoryArena 55.31% 领先第二名 EverOS 10.2 个百分点;CodeMemoryBench 64.2%/35.6%;SWE-ContextBench 28.3%;LoCoMo 72.6% 且记忆 token 从 1159 降到 703(-39.3%)。内部业务验证(厂商口径):自选股多跳召回 50% 提到 90%、iWiki 相对提升 48.6%。定位是「记忆写入工位替身」(智囊团解读,二手):模型专门负责记忆写入与更新,理论上可挂在 Mem0、MemOS 等既有记忆系统下面干活。MemHub 工具数两口径并写:README 列 5 种,官方公众号稿称 10 种,以实际 CLI 输出为准。局限五条如实写:跑分为厂商口径第三方未复现、preview 阶段 API 可能变、MemHub 仅 Linux/macOS、模型 30B 级本地部署有门槛、英文文档尚薄。仓库地址:github.com/Tencent-Hunyuan/Hy-Memory(实测可达)。与站内分工:ai-agent-long-term-memory-sop(2026-08-08)讲 mem0/Letta 自建方案,本篇讲腾讯现成开箱方案。

DeepSeek 又上新:权重免费下,任务账单砍六成

DeepSeek 于 2026-10-17 将 V4.1-Flash 更新至 DeepSeek-V4.1-Flash-1017:网页端、App 与 API 同步切换(API 名 deepseek-flash 不变,旧名 deepseek-v4-flash 与 deepseek-v4-flash-vision-exp 已退休但仍接受、按 Flash 价计费),权重同步开放在 HuggingFace(huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017)与 ModelScope(modelscope.cn/models/deepseek-ai/DeepSeek-V4.1-Flash-1017),延续 MIT 许可。换芯不换壳:架构与配置文件与 9-10 版完全一致,只换权重。参数口径两说并写:总权重 763B(HF checkpoint 实测),其中骨干 552B、Engram 条件记忆 196B、其余约 15B 为视觉编码器/MLP 投影/DSpark 草稿模型;激活参数 prefill 8B、decode 16B;checkpoint 落盘 510GB(48 个 safetensors,FP4 专家权重与混合精度)。自报基准(厂商口径,第三方榜单尚未收录 1017 build):Terminal-Bench 4.0 42.3(前 31.2,Claude Code harness)、ProgramBench 29.1(20.3)、HLE 无工具 42.6(36.8)、DeepSWE v1.1 77.0(74.2,Mini-SWE-V2 harness)、NL2Repo-Bench 68.2(65.4)、Automation-Bench 60.5(54.8)、Agents' Last Exam 35.4(31.8)、Apex Bench 72.1(64.6)等 11 项全涨;Opus 5 在 Terminal-Bench 4.0(51.8)与 HLE(56.3)仍更高,正文并写不回避。价格不变:off-peak 每百万输入 0.15 美元(cache miss)、0.003 cache hit、输出 0.60 美元,peak(工作日 UTC 01:00-04:00 与 06:00-10:00)双倍;DeepSWE 每任务成本约 0.50 降至 0.20 美元(图读口径),智东西口径约 3.3 元降至 1.3 元(约六成,二手)。同日开放 Search/Fetch API:0.75 美元/千次(智东西口径 5 元/千次),Claude Code 与 Codex 集成临时免费。「许愿式编程」:自反馈强化学习训练,提示词极少时从零生成可运行项目(官方演示为游戏开发与 3D 建模),建议 DeepSeek Harness 0.2.1-rc.1 以上,并对腾讯 CodeBuddy、WorkBuddy 做了适配(中华网口径,二手)。背景时间线:9-10 首发 V4.1-Flash,10-15 API 中断近 5 小时并全额返还 10-08 至 14 消耗赠金,10-17 1017 版上线。与站内分工:昇腾算子栈篇讲内核与硬件适配、Cline 篇讲编程 agent 装配、Harness 桌面壳篇讲桌面环境,本篇只讲 1017 权重更新本身。

Reflection AI Beam 501B:1TB 权重四张 B200 够吗?

Reflection AI 首个开放权重模型 Beam 于 2026-10-16 真正到账:仓库 huggingface.co/reflection/Beam-1.0-501B-A23B(另有 FP8 与 NVFP4 变体),Apache 2.0 许可,模型卡 informational only 不改许可。时间线必须写全:10-05 官宣时只有 waitlist,承诺本月发权重;10-08 更新基准表;10-13 时 HF 组织页尚无公开仓库;10-16 权重与 HF 官方博客《Welcome Beam》、AWS SageMaker 部署路径同日落地,十一天从承诺到交付。架构为稀疏 MoE:501B 总参、每 token 激活 23B(激活率约 4.6%)、52 层、每层 256 专家路由 8 个,纯文本进出;有效上下文 1M(midtraining 拉长)与 RL rollout 的 256K 是两个口径不得混写,服务端上下文上限与最大输出未公布;推理深度五档 low/medium/high/xhigh/max,权重附带 DFlash2 投机解码 drafter。硬件账是本文核心:BF16 全精度约 1TB,NVFP4 压到约 280GB,HF 明说两台 B200 勉强装下、建议规划四台 B200(720GB);最小 GGUF 约 103GB 且首先是内存要求;与站内 24GB/8GB 消费级线形成两极。基准全部为 Reflection 自报(10-08 修订)且无独立复现:SWE-bench Verified 81.6%(FP8 80.2%/NVFP4 80.7%)、Terminal-Bench v2.1 80.1%、GPQA Diamond 90.6%、AIME 2026 97.7%、HLE 无工具 36.0%;AA 已收录(Intelligence Index 30 分、美国开放权重第 2,转引 Artificial Analysis 口径,二手)。Ollama day-zero 限时免费但 ollama run beam 实为 beam:cloud 云端推理,本地跑须显式本地 GGUF;Mirror CLI(Rust)agent harness 同步开源,40+ 伙伴生态,self-distillation recipes 承诺中尚未发布;FT 报道 Nvidia 洽谈收购或加深投资(双方未证实)。与站内 muse-spark-open-816b-hotspot 分工:那篇讲 Meta 的桌面路径,本篇讲 Beam 的数据中心路径。