开源项目
开源项目

0.9B 小模型登顶 OCR 榜:GLM-OCR 凭什么?

智谱 2026 年 2 月 3 日开源的 GLM-OCR 只有 0.9B 参数(0.4B CogViT 编码器 + 0.5B GLM 解码器),却在 OmniDocBench v1.5 厂商自报榜拿下 94.62,高于 Gemini-3 Pro 的 90.33 与 GPT-4o 的 75.02,官方口径成本约为传统方案十分之一。本文拆许可证三方拆分(权重 MIT、代码与 PP-DocLayoutV3 均为 Apache-2.0)、MTP 吞吐提速约 50% 的架构、「登顶成色」三条裁决(PaddleOCR-VL-1.6 已后超、跨榜不可直比、宣传语与表内方向相反),以及老旧扫描件仅 37.6% 的短板与 SDK/vLLM/SGLang/Ollama 四条上手路径。

发布于 2026年10月25日9 分钟阅读
<!-- glm-ocr-opensource-resource | open-source | 0.9B 小模型登顶 OCR 榜:GLM-OCR 凭什么? -->

0.9B,在千亿参数扎堆的大模型时代,几乎是个「玩具级」的数字。可就是这样一个不足十亿参数的小模型,在文档解析基准 OmniDocBench v1.5 的厂商自报成绩里拿下了 94.62 的总分,高于 Gemini-3 Pro 的 90.33 和 GPT-4o 的 75.02,而官方给出的成本约为传统 OCR 方案的十分之一。它就是智谱在 2026 年 2 月 3 日宣布发布并开源的 GLM-OCR,定位「小尺寸、高精度」,GitHub 仓库见 zai-org/GLM-OCR。仓库地址:github.com/zai-org/GLM-OCR。

小模型登顶,成色几何?这篇深评把许可证、架构、性能口径、短板和上手路径逐一拆开来看。

先交代本批分工:OCR 三篇同批发布,横评篇负责六款开源 OCR 的选型对比(见六款开源 OCR 横评:怎么选),SOP 篇负责 DeepSeek-OCR 的装机实操(见DeepSeek-OCR 本地部署实操),本文专注 GLM-OCR 单体深评——它为什么是当下最热开源 OCR、登顶成色如何、短板在哪、怎么用起来。想先横向比一遍再做决定的读者,可以搭配另两篇一起看。

一、发布与仓库:小尺寸、高精度

按官方口径,GLM-OCR 的目标很直接:把文档解析的精度做到第一梯队,同时把部署与推理成本压到传统 OCR 方案的约十分之一。发布当天即开源:模型权重放在 Hugging Face 的 zai-org/GLM-OCR(BF16 精度),国内用户可以在魔搭社区的 ZhipuAI/GLM-OCR 下载;技术报告以 arXiv 2603.10910(v1,2026 年 3 月 11 日)的形式放出。

顺手给一组热度参考(均为二手口径):HF 下载量 2026 年 2 月底已超过 145 万,到 2026 年 8 月口径月均下载约 380 万;Ollama 侧约半年累计 650 万次拉取,进入全库 Top25;GitHub stars 截至 2026 年 8 月约 7.2k。对一个 0.9B 的垂直模型来说,这个起量速度相当罕见——也解释了为什么「当下最热开源 OCR」这个头衔它接得住。

二、许可证:一份仓库,三张许可

这是很多二手报道写错的地方。不少媒体在转载时只标了一个「MIT」,但按官方 README 的逐字表述,GLM-OCR 的许可是三方拆分:仓库代码采用 Apache License 2.0;GLM-OCR 模型权重采用 MIT License;布局组件 PP-DocLayoutV3 采用 Apache License 2.0——而且用户须同时遵守两者。

换句话说,你用这个模型时,权重侧的 MIT、代码侧的 Apache 2.0、布局组件那一份 Apache 2.0 同时在列,缺一条都不算合规。好消息是三张许可全部宽松,没有营收门槛、没有附加限制,商用基本无忧;只是接入前最好把三份 LICENSE 原文都过一遍,别只看二手媒体的一句「MIT 协议」。想系统了解各家开源权重许可证差异的,可以看站内旧文开源权重许可证横评。

三、架构:0.4B 的眼睛,0.5B 的大脑,加一条快车道

GLM-OCR 的 0.9B 总参数由三部分组成:0.4B 的 CogViT 视觉编码器、一个带 token 降采样的轻量跨模态连接器,以及 0.5B 的 GLM 语言解码器。视觉侧负责「看」,语言侧负责把看到的内容转成结构化文本,中间的连接器负责压缩视觉 token 的数量。

识别流程走的是两阶段流水线:先用 PP-DocLayout-V3 做版面分析,把整页切成标题、正文、表格、公式等区域,再对各区域并行识别。这和整页从左到右「一条龙」式的识别路线不同——先切后认的好处是表格、公式这类结构化内容不会被当成普通文本串着读,结构还原更稳;代价则是多一道版面分析工序,错误会在区域切分阶段向下传导。

速度上有个关键设计:MTP 多 token 预测。训练时每步预测 10 个 token,推理时平均每步 5.2 个,官方口径吞吐较标准自回归提升约 50%。训练分四阶段:先是 MIM 加 CLIP 的预训练,随后引入 MTP,再做 SFT,最后用 GRPO 做强化学习——奖励信号用的是编辑距离、CDM、TEDS 和字段级 F1,全部直接对齐 OCR 的评价指标。小模型能把分数做上去,很大程度靠的就是这套「用评测指标当奖励」的对齐方式。

使用模式上有三种识别:Text(纯文本)、Formula(输出 LaTeX)、Table(输出 Markdown 或 HTML),外加按 JSON schema 定义字段做信息抽取。文档解析的高频诉求基本都覆盖了:论文里的公式想进 LaTeX 编辑器,报表想进下游数据库,杂乱的合同想按字段抽成结构化数据,都对应得上。

把三个部分放回参数预算里看,这个分配思路其实很「抠」:0.4B 给视觉,0.5B 给语言,连接器几乎不计参数——每一段参数都花在 OCR 真正需要的环节,没有一个通用大模型那种「什么都会一点」的冗余。这也意味着它放弃了很多能力来换取部署密度:单张消费级显卡可以同时塞下多个副本,批处理场景的单位页成本能压得非常低。

四、性能:94.62 的成色与三条裁决

先上表。下表数字出自 GLM-OCR 官方技术报告(arXiv 2603.10910)的 Table 4,基准为 OmniDocBench v1.5,注意表内所有成绩均为各厂商自报口径:

模型OmniDocBench v1.5 总分
GLM-OCR(0.9B)94.62
PaddleOCR-VL-1.594.50
MinerU2.590.67
Gemini-3 Pro90.33
Qwen3-VL-235B89.15
DeepSeek-OCR(3B)87.01
GPT-4o75.02

GLM-OCR 自身的分项:Text Edit 0.040、Formula CDM 93.90、Table TEDS 93.96、TEDS-S 96.39、Reading Order Edit 0.044。这里要提一句指标方向:Edit 越低越好(0.040 意味着文本错误率约 4%),CDM、TEDS 越高越好。在这张表内,GLM-OCR 的总分和两项表格指标(TEDS 与 TEDS-S)都是最高;不过 PaddleOCR-VL-1.5 的 Text 与 Formula 分项略优于 GLM-OCR,胜负并非一边倒。

表里还有一个值得驻足的对比:GLM-OCR 只有 0.9B 参数,而表中的 Qwen3-VL-235B 是两千多亿参数的通用视觉大模型——参数差了两百多倍,分数反倒是 94.62 对 89.15。这个反差是「专用小模型 vs 通用大模型」在垂直任务上的典型剧本,也是榜单效应争议的核心:专用模型针对性优化评测任务,天然占便宜,但这并不等于它在你的真实数据上也占便宜。

三个容易踩坑的口径问题,必须说清楚:

其一,「开源最高」「登顶」这类说法,必须限定在「发布时点加 OmniDocBench v1.5 榜」之内。2026 年 5 月百度已发布 PaddleOCR-VL-1.6,自报总分 96.33(出自 v1.6 榜),不同版本的榜单分数不可直接对比,所以「GLM-OCR 至今仍是开源第一」并不成立。

其二,HunyuanOCR(自报 94.10)与 DeepSeek-OCR 2(自报 91.09)的成绩是各厂商自行报告的,并不在上述同一张表内,不构成同版本对照,不能写成「GLM-OCR 同尺寸超越了它们」。

其三,一个有意思的口径矛盾:官方宣传语说 GLM-OCR「性能接近 Gemini-3-Pro」,但按官方自己给出的表格,94.62 明显高于 Gemini-3 Pro 的 90.33——明明是反超,宣传却用了「接近」。反过来的保守话术在这个行业里不多见,也算给这份榜单的可信度加了点分。

五、吞吐与资源:快,而且跑得动

吞吐方面,官方口径为相同硬件、单副本单并发(未披露 GPU 型号):PDF 解析 1.86 页/秒,单张图片 0.67 张/秒;作为对照,PaddleOCR-VL-1.5 在同口径下为 1.22 页/秒与 0.39 张/秒。两项都领先,PDF 场景优势更明显。换算成生产语言:1.86 页/秒意味着单副本一小时约 6700 页,处理一个十万页的档案库大约 15 个小时;同样的量给 PaddleOCR-VL-1.5 要接近 23 个小时。当然,这是官方口径的实验室数字,真实批量任务的吞吐会受预处理、IO 和后处理拖累,实际值要自己压测。

显存方面,官方 README 与技术报告均未公布最低显存要求,这一点要如实说。社区实测口径不一:有「4GB 显卡跑起来还有余量」的说法,也有「BF16 精度最小 8GB」「量化版 4GB」的实测。综合下来可以记为:官方未公布,社区实测约 4 至 8GB,视精度与上下文长度而定。上下文长度同样存在两说——66K(TheRouter)与 128K(Ollama 库页),官方未明确,此处并列,不替读者裁决。

六、短板与批评:榜单之外的部分

先说任务面:GLM-OCR 只做文档解析和信息抽取,不是通用视觉语言模型。看图问答、图像理解、截图转代码这类需求,别指望它。

再说精度短板。第三方博主 lilting.ch 的复测(二手口径)给出了一组更细的分项:表头页脚 95.8%、票据关键信息抽取 94.5%、印章 90.5%、手写 87.0%、代码文档 84.7%、多栏 76.7%,而老旧扫描件只有 37.6%,多语言场景 69.3——博主对多语言能力的自述是「仍让我不安」。把这份复测和官方榜单放在一起看,结论很清晰:规整的现代印刷文档是它的主场,老旧扫描件和冷门语种是明显的坑,生产环境里遇到这两类素材务必先抽样验证。

社区质疑也值得记录。Hacker News 上的讨论集中在两点:一是小模型「超越 Gemini 3」是否存在榜单效应——OmniDocBench 主要覆盖规整文档,各家自报成绩的预处理与后处理口径并不统一,分数差异未必全部来自模型能力;二是从架构推断(注意,这是推断而非官方结论),0.5B 的语言解码器自带语言先验,对中文和表格的语义还原有利,但这恰恰也是幻觉风险的来源——模型可能「脑补」出图里并不存在的内容,对准确率要求极高的票据、合同场景要留后验校验。

另有一条实操建议来自 HN 用户 philipkglass:官方后处理会融合、改写版面数据。如果你要调试布局,建议保存原始输出、自己写后处理逻辑,而不是直接信任封装后的结果。

把这些短板收拢成一句选型判断:GLM-OCR 适合的是「现代印刷文档、中文为主、追求结构与版面还原」的主力解析场景;如果你的语料是几十年前的破损扫描件,或者以小语种为主,它当前的分数并不能给你足够的信心,先跑自有样本再定,别只看总分。

七、上手指南与生态

官方 SDK 的最小调用只需三行,以 pip install glmocr 安装:

python
from glmocr import parse

result = parse("document.pdf")
result.save(output_dir="./results")

自建服务的话,主流推理框架都已经跟上:vLLM 从 v0.19.0 起支持,MTP 走 speculative 配置;SGLang 从 v0.5.10 起支持,投机采样用 NEXTN。vLLM 的启动命令如下(官方 README 逐字):

bash
vllm serve zai-org/GLM-OCR --port 8080 --speculative-config '{"method": "mtp", "num_speculative_tokens": 3}' --served-model-name glm-ocr

SGLang 对应的启动命令:

bash
SGLANG_ENABLE_SPEC_V2=1 sglang serve --model-path zai-org/GLM-OCR --port 8080 --speculative-algorithm NEXTN --speculative-num-steps 3 --speculative-eagle-topk 1 --speculative-num-draft-tokens 4 --served-model-name glm-ocr

最省事的路径是 Ollama:模型体积 2.2GB,q8_0 量化版约 1.6GB,一条命令拉起(注意需要较新版本):

bash
ollama run glm-ocr

一个二手实测踩过的坑:视觉请求建议走 Ollama 原生的 /api/generate 端点,而不是 OpenAI 兼容端点。此外,mlx-vlm 让 Apple Silicon 用户可以本地跑;llama.cpp 与 LM Studio 也有社区转换的 ggml-org/GLM-OCR-GGUF 可用。

四条路径怎么选:本机试用、个人小批量,用 Ollama 或 SDK 直连最省心;要进生产流水线、讲究吞吐与并发,vLLM 和 SGLang 二选一,两者都吃到了 MTP 投机采样的加速红利;Mac 用户本地玩,走 mlx-vlm。

不想自己部署的话,官方 API 定价为输入输出同价 0.2 元/百万 tokens(官方通稿口径),小规模使用成本几乎可以忽略不计。

八、和 DeepSeek-OCR 怎么选

GLM-OCR 与 DeepSeek-OCR 2(约 3B,采用 Visual Causal Flow)代表了开源 OCR 的两条技术路线。后者走「压缩路线」:把整页压成极少的视觉 token 换吞吐,适合海量 PDF 转 Markdown 的流水线;GLM-OCR 走「切区域并行识别」:保住结构与版面的还原精度,代价是 token 消耗更高。一句话选型:吞吐优先选 DeepSeek-OCR,结构还原优先选 GLM-OCR;如果两者都重,最直接的办法是拿各自的原始输出跑一遍自己的样本集,用字段级准确率说话。两者装机的具体差异和坑,可以对照本批 SOP 篇的实测。

FAQ

Q1:GLM-OCR 需要多少显存?

官方未公布最低显存;社区实测约 4 至 8GB,视精度与上下文长度而定,量化版有 4GB 跑通的实测反馈。

Q2:GLM-OCR 用什么许可证,能商用吗?

三方拆分:仓库代码 Apache License 2.0、模型权重 MIT、布局组件 PP-DocLayoutV3 Apache License 2.0,用户须同时遵守;三份许可全部宽松、无营收门槛,可商用。

Q3:GLM-OCR 真的超越了 Gemini-3-Pro 吗?

在官方自报的 OmniDocBench v1.5 表内,GLM-OCR 总分 94.62 高于 Gemini-3 Pro 的 90.33,实际是超越而非「接近」;但表内均为厂商自报口径,且不同版本的榜单分数不可直接对比。

Q4:GLM-OCR 支持哪些任务?

三种识别模式(Text 纯文本、Formula 转 LaTeX、Table 转 Markdown 或 HTML),外加按 JSON schema 的信息抽取;仅覆盖文档解析与信息抽取,不是通用视觉模型,看图问答这类需求需要另找通用 VLM。

Q5:GLM-OCR 和 DeepSeek-OCR 该选哪个?

重吞吐、大批量 PDF 转 Markdown 选 DeepSeek-OCR 的压缩路线;重结构还原、表格与版面精度选 GLM-OCR 的切区域识别。

延伸阅读

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-10-25

常见问题

GLM-OCR 需要多少显存?
官方未公布最低显存;社区实测约 4 至 8GB,视精度与上下文长度而定,量化版有 4GB 跑通的实测反馈。
GLM-OCR 用什么许可证,能商用吗?
三方拆分:仓库代码 Apache License 2.0、模型权重 MIT、布局组件 PP-DocLayoutV3 Apache License 2.0,用户须同时遵守;三份许可全部宽松、无营收门槛,可商用。
GLM-OCR 真的超越了 Gemini-3-Pro 吗?
在官方自报的 OmniDocBench v1.5 表内,GLM-OCR 总分 94.62 高于 Gemini-3 Pro 的 90.33,实际是超越而非「接近」;但表内均为厂商自报口径,且不同版本的榜单分数不可直接对比。
GLM-OCR 支持哪些任务?
三种识别模式(Text 纯文本、Formula 转 LaTeX、Table 转 Markdown 或 HTML),外加按 JSON schema 的信息抽取;仅覆盖文档解析与信息抽取,不是通用视觉模型,看图问答这类需求需要另找通用 VLM。
GLM-OCR 和 DeepSeek-OCR 该选哪个?
重吞吐、大批量 PDF 转 Markdown 选 DeepSeek-OCR 的压缩路线;重结构还原、表格与版面精度选 GLM-OCR 的切区域识别。

相关文章

开源项目

DeepInfer 开源:155 万亿 Token/天,引擎还是工厂?

DeepSeek 于 2026 年 10 月 20 日宣布全面开源生产级推理框架 DeepInfer,这是第一次能拿到官方生产级引擎而不是对着论文自己拼:仓库 deepseek-ai/DeepInfer 采用 Apache-2.0,开放当日实测 17,902 stars、1,836 fork、188 个 open issue,同步放出的 Token 编解码组件 deepseek-recipe 则是 MIT 协议,两个仓库许可不同。官方自报性能数字全部需要标注为自报口径、目前无第三方复现:单集群服务吞吐 155 万亿 token/天(按谷价折算每卡每小时 38 美元)、首字延迟 400 毫秒、生成速度 230 tokens/s、96% 输入命中前缀缓存、Prefill 每卡吞吐由不计缓存的 6 万提升到 150 万 tokens/s;SWA Bounded Replay 把缓存未命中的重算量固定为最后 128 个 token,使 Prefill 总计算量近乎减半且成本与上下文长度无关;DSpark 推测解码最多 draft 5 个 token,线上吞吐再提升 6%,每卡每秒生成 14K token;MoE 专家副本每 10000 步动态重排,线上最忙的卡仅高出平均负载 9%。硬件覆盖英伟达 SM100 与华为昇腾 950 NPU 双栈,部署路径为 Python 3.12 虚拟环境加 DEEPINFER_ACCELERATOR 环境变量后从源码构建,默认拉取 DeepSeek-V4.1-Flash-1017 权重。但要讲清边界:官方明确 Prefill 与 Decode 分离、数据并行负载均衡以及 KVCache 管理层因与内部基础设施耦合过深尚未完整开源,拿到的是引擎而不是整座工厂;官方也未提供与 vLLM、SGLang、TensorRT-LLM 的横向基准。线上形态是 8 卡服务器承担 Prefill、64 至 128 卡超节点承担 Decode,KVCache 保留 72 小时以上以减少重复计算。

2026年10月22日10 分钟阅读
开源项目

大模型记忆长进身体里:288B 记忆原生模型开源

上海记忆张量(MemTensor)2026-10-20 发布业内首个记忆原生基座模型 MemT 1.0(据团队称)并开放权重:MemT-1.0-Flash(288B 总参/17B 激活/336M 动态记忆)与 MemT-1.0-Nano(36B 总参/3B 激活/10M 动态记忆),业内最大的开源参数化记忆模型。许可证破案(臣核 LICENSE 原文):GitHub API 报 NOASSERTION,LICENSE 原文为 PolyForm Noncommercial 1.0.0——权重公开可下载但为非商业许可,商用需向团队另行授权,另附 LICENSE-PAPER 文件;多家媒体报道写「开源」,正文以 LICENSE 原文为准。记忆原生与传统三类记忆的区别:激活记忆(上下文+KV Cache,会话结束即消失)、参数记忆(微调才更新不可逐条编辑)、外部知识库(靠检索)——MemT 把历史编码为持续存在、可更新的内部状态,在选定 Transformer 层让注意力与参数化记忆并联,记忆成为前向传播的一部分;Gated DeltaNet-2 逐 token 稳定更新(擦除/写入/遗忘/输出四门控)、MoS 混合存储扩容(记忆专家稠密路由、容量独立扩张);训练用 KL 蒸馏(教师读完整上下文、学生只看记忆状态、只优化记忆参数),训练语料 340 亿 token(网易口径)。基准(厂商口径):11 项记忆基准 Flash 50.6 / Nano 47.0 列参数化记忆方法第一、第二,最强参数化基线 Temp-LoRA 38.1(高 12.5/8.9 分);落后于自家 MemOS 文本记忆系统(保真度损失换可学习可扩展,如实并写)。SWE-bench Verified 500 题:66.07% 提升至 69.33%(执行前注入经验)/69.73%(执行中触发),三次全成功率 54.00% 提升至 61.6%/62.8%;Multilingual 60.00% 提升至 62.89%/63.56%。长历史效率(双 GPU 单并发固定 128 token):128K 端到端提速 1.86 倍、持久存储约 1/66;256K 提速 3.99 倍、TTFT 104-112ms vs 传统 445ms;每会话记忆状态约 40MiB 较传统 5.06GiB 缩约 130 倍(1/66 对 KV cache、1/130 对传统完整方案,两口径并写)。长对话召回案例:65K token 对话 4K 精确召回、16K 正确答「我不知道」、64K 区分已确认与仅提议变更。部署时记忆状态与用户/任务轨迹绑定、序列化跨会话延续,原始文本不保留。方向:记忆驱动递归自我改进 RSI;与 MemOS 3.0 组合明文+参数化完整链路。仓库:github.com/MemTensor/MemT-1.0(实测 194 stars)+ HF/ModelScope 集合。与站内分工:hy-memory-2-0-opensource-resource(批 57)是外挂记忆框架(记忆在模型外),本篇是记忆原生模型(记忆长在模型里)——两条路线各开源了一个代表。

2026年10月21日10 分钟阅读
开源项目

AI 记忆框架开源第一:腾讯 3B 干翻 Opus 5

腾讯混元 2026-10-16 把 Hy Memory 2.0 三层全开源:模型层 Hy-Memory-30B-A3B(总参数 30B、每 token 激活约 3B 的 MoE,HuggingFace tencent/Hy-Memory-30B-A3B,arXiv 2610.22196)、SDK 层 hy-memory(PyPI 当前 2.0.3)与工具层 MemHub(CLI v1.0.3,npm memhub-cli 引导安装)。许可证破案:GitHub API 报 NOASSERTION(非标准文本),raw LICENSE 原文为 Apache-2.0 且带 Tencent 前言、无附加限制条目——本文以 LICENSE 原文为准。官方文档模型名混用「Hy-Memory-30A3B」与「Hy-Memory-30B-A3B」两种写法,以 HF 仓库实名为准。官方基准(厂商口径):四套记忆系统对比 55.49 分第一,超过 Opus 5(54.62)与 DeepSeek-Flash(53.64),Qwen3-30B-A3B 仅 44.37;MemoryArena 55.31% 领先第二名 EverOS 10.2 个百分点;CodeMemoryBench 64.2%/35.6%;SWE-ContextBench 28.3%;LoCoMo 72.6% 且记忆 token 从 1159 降到 703(-39.3%)。内部业务验证(厂商口径):自选股多跳召回 50% 提到 90%、iWiki 相对提升 48.6%。定位是「记忆写入工位替身」(智囊团解读,二手):模型专门负责记忆写入与更新,理论上可挂在 Mem0、MemOS 等既有记忆系统下面干活。MemHub 工具数两口径并写:README 列 5 种,官方公众号稿称 10 种,以实际 CLI 输出为准。局限五条如实写:跑分为厂商口径第三方未复现、preview 阶段 API 可能变、MemHub 仅 Linux/macOS、模型 30B 级本地部署有门槛、英文文档尚薄。仓库地址:github.com/Tencent-Hunyuan/Hy-Memory(实测可达)。与站内分工:ai-agent-long-term-memory-sop(2026-08-08)讲 mem0/Letta 自建方案,本篇讲腾讯现成开箱方案。

2026年10月20日10 分钟阅读