←新闻详情

MarkTechPost更新于 10月27日 15:28

百度开源 Unlimited OCR 2,3.34B 模型支持数百页文档解析

Baidu Open-Sources Unlimited OCR 2 for Hundred-Page Document Parsing - MarkTechPost

AI 导读

百度开源 Unlimited OCR 2,这是一个 3.34B 参数的视觉语言模型,可在一次请求中解析数百页书籍、财报和报告,权重以 MIT 协议发布,代码在 GitHub。其核心改动是 SR-SWA 稀疏注意力,把文本与视觉注意力压缩到固定 512 token 参考集,使每步解码的延迟和内存随文档变长基本持平。百度自报该模型在 MPDocBench 得 84.6、在 MarathonDocBench 得 77.1,后者次优模型 Kimi-K3 为 33.7,但标题层级子项仅 48.2。

推荐理由

AI 评分 64

原文给出 SR-SWA 的固定 512 token 参考集机制与长文档基准对比,可据此判断长文档 OCR 的注意力成本取舍。

主题

标签

正文 · AI 翻译

将我们添加为 Google 首选来源

百度发布了 Unlimited OCR 2,这是一个专为超长文档构建的开源 OCR 模型。这个 3B 模型可在一次请求中解析数百页的书籍、申报文件和报告。其核心改动是 SR-SWA,一种稀疏注意力方案,可使每步解码成本几乎保持平稳。权重以 MIT 许可证发布,代码托管在 GitHub 上。

简要说明

规模:3.34B 参数。未披露激活参数数量。最大位置长度为 131,072 个 token。

运行环境:在 1 块 CUDA GPU 上以 BF16 运行。百度在 NVIDIA A800-80GB 上进行了测试。BF16 权重总计约 6.7 GB。

性能:在百度测试的两个多页基准上均排名第一,对比对象为其他 9 个模型(自报数据)。

最佳:在 MarathonDocBench(数百页)上总体得分为 77.1。排名第二的模型 Kimi-K3 得分为 33.7。

最差:在 MarathonDocBench 的标题层级(TEDS)上得分为 48.2,是其最低的子项得分。

什么是 Unlimited OCR 2?

Unlimited OCR 2 是百度推出的一个 3B 视觉语言模型,可将有序的页面图像转换为结构化文本。输出涵盖文本、表格、公式、图形、标题和阅读顺序。它接替了 2026 年 6 月发布的 Unlimited-OCR,后者旨在进一步推进 DeepSeek-OCR。

文本表格布局你的 PDF 解析器真的解析正确了吗?omni_parse_bench · 对文本、表格和布局评分 · 开源在 GitHub 上加星→赞助

该配置保留了 DeepSeek-OCR 风格的布局。一个 SAM ViT-B 加 CLIP-L 编码器馈入一个 12 层混合专家解码器。每个 token 路由到 64 个专家中的 6 个,外加 2 个共享专家。DeepSeek-OCR 论文将该解码器描述为 DeepSeek3B-MoE-A570M。百度未说明版本 2 的激活参数数量。在多页模式下,每页消耗 273 个图像 token。

SR-SWA 如何工作?

全注意力的成本随序列长度呈二次增长。在解码过程中,每个新 token 都要扫描更长的 KV 缓存。按每页 273 个图像 token 计算,100 页在任何输出之前就会增加 27,300 个输入 token。

SR-SWA 代表稀疏参考滑动窗口注意力(Sparse Reference Sliding Window Attention)。它将文本-视觉注意力压缩到一组固定的工作参考中。百度的模型卡给出的示例大小为 512 个 token。该配置将 128 token 的局部窗口与对 32 token 块的 top-16 选择相结合。即 16 个 32 token 的块,与 512 token 的预算相匹配。

这使得每步延迟和内存随着文档增长几乎保持恒定。它将结果称为在有限上下文窗口内的“无限视野”解析。图像编码和总运行时间仍随页数增加而上升。

它在 MPDocBench 和 MarathonDocBench 上得分如何?

百度团队在 MPDocBench(每份文档数十页)和 MarathonDocBench(数百页)上进行了测试。MPDocBench-Parse 是一个包含 433 份文档和 3,246 页的公开基准。我们未能找到 MarathonDocBench 的公开版本。

根据百度的排行榜图表,Unlimited OCR 2 在 MPDocBench 上得分为 84.6。Qwen3.8-Max 以 78.3 紧随其后,然后是 Qwen-3.8-Flash-Next 的 77.4。在 MarathonDocBench 上它得分为 77.1。Kimi-K3 以 33.7 位居其次,然后是 Gemini-3.8-Flash 的 28.6。

两个基准之间的落差才是真正的重点。Qwen3.8-Max 在百页文档上从 78.3 降至 22.9。Unlimited OCR 2 下降了 7.5 分。其前代 Unlimited-OCR 在 MarathonDocBench 上得分为 0.0。

子项得分(MPDocBench / MarathonDocBench):

标题层级:60.1 / 48.2

MPDocBench 上单项指标的差距很小。Qwen3.8-Max 在文本上得分为 94.3,在公式上为 89.2。所有数据均为自报,且仅出现在一张图表图片中。

与其他开源 OCR 模型的比较

Unlimited OCR 2Unlimited-OCRDeepSeek-OCR-2PaddleOCR-VL-1.6

开发者百度百度DeepSeek百度飞桨

参数3.34B3.34B3.39B0.96B

激活参数未披露未披露未披露未披露

许可证MITMITApache 2.0Apache 2.0

论文 / 发布2026 年 10 月(报告)2026 年 6 月(arXiv)2026 年 1 月(arXiv)2026 年 6 月(arXiv)

长文档机制SR-SWA,512 token 参考集多页 infer_multi,无 SR-SWA未披露未披露

MPDocBench 总体84.6(百度)61.9(百度)未报告未报告

MarathonDocBench 总体77.1(百度)0.0(百度)未报告未报告

参数数量和许可证来自各模型的 Hugging Face 页面。基准得分来自百度的图表。

如何运行 Unlimited OCR 2?

模型卡列出 Transformers 用于快速测试,SGLang 用于服务。在 Transformers 中,infer 处理 1 页并采用动态分块,称为 gundam 模式。infer_multi 在一次请求中解析文档的每一页,因此模型可保留跨页上下文。加载需要 trust_remote_code=True,这会运行仓库中的 Python 代码。

SGLang 服务使用百度提供的定制 wheel,而非上游 SGLang。百度的示例每个窗口调度 10 页,并复用前一个窗口的 KV 尾部。较小的窗口可降低峰值内存,但会削弱跨页合并。百度警告,默认的 bias 设置可能触发 462 MiB 的分配并导致内存不足。

关键要点

Unlimited OCR 2 是百度推出的一个 3.34B、MIT 许可的 OCR 模型。

SR-SWA 将注意力限制在固定的 512 token 参考集上。

它在 MarathonDocBench 上得分为 77.1,而排名第二的模型为 33.7。

标题层级是薄弱环节,在长文档上为 48.2。

所有基准数字均为百度自报。

Asif Razzaq网站 | + 文章作者简介 ⮌

Asif RazzaqNace AI 发布用于 AI 智能体搜索的 Drex:在 BrowseComp-Plus 上以 12.6 次搜索调用达到 92.05%

Asif RazzaqNanbeige 发布 Nanbeige4.3-33B,一个 33B 开源智能体编码模型

$uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助

相关文章更多来自作者

OpenAI 推出 GPT-6.1 Terra,将 GPT-6.1 Sol 的智能体工作 API 价格减半

Nace AI 发布用于 AI 智能体搜索的 Drex:在 BrowseComp-Plus 上以 12.6 次搜索调用达到 92.05%

Nanbeige 发布 Nanbeige4.3-33B,一个 33B 开源智能体编码模型

斯坦福大学和加州大学伯克利分校的研究人员推出 TokenGate:Token 门控注意力使长上下文预填充速度提升最高 11.3 倍

来源

MarkTechPost