Unlimited OCR 的工作原理

Hugging Face Daily Papers 论文

摘要

Unlimited OCR 引入了 Reference Sliding Window Attention,以消除长序列 OCR 任务中不断增长的内存消耗,从而能够在单次前向传播中高效转录多页文档。

最近,以 DeepSeek OCR 为代表的端到端 OCR 模型再次将 OCR 推到了聚光灯下。一种普遍的观点认为,使用大语言模型(LLM)作为解码器,可以让模型利用语言的先验分布,从而提高 OCR 性能。然而,其缺点也同样明显:随着输出序列变长,累积的 KV cache 会推高内存消耗,并逐渐减慢生成速度。这与人类在长时复制任务中效率不会下降形成了鲜明对比。在本技术报告中,我们提出了 Unlimited OCR,一种旨在模拟人类解析工作记忆的模型。以 DeepSeek OCR 为基线,我们将解码器中的所有注意力层替换为我们提出的 Reference Sliding Window Attention(R-SWA),它降低了注意力计算成本,同时在整个解码过程中保持恒定的 KV cache。通过将 DeepSeek OCR 编码器的高压缩率与我们恒定的 KV cache 设计相结合,Unlimited OCR 可以在标准最大长度 32K 下,通过单次前向传播转录数十页文档。更重要的是,R-SWA 是一种通用的解析注意力机制——除了 OCR 之外,它同样适用于 ASR、翻译等任务。代码和模型权重已在 http://github.com/baidu/Unlimited-OCR 公开。
查看原文
查看缓存全文

缓存时间: 2026/06/23 05:40

论文页面 - Unlimited OCR Works

来源:https://huggingface.co/papers/2606.23050 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

Unlimited OCR 引入了参考滑动窗口注意力机制,消除了长序列 OCR 任务中不断增长的内存消耗,从而能够在单次前向传播中高效转录多页内容。

近期,以 DeepSeek OCR 为代表的端到端 OCR 模型再次将 OCR 推至聚光灯下。一种普遍观点是,使用大语言模型作为解码器可以让模型利用语言的先验分布,从而提升 OCR 性能。然而,其缺点同样明显:随着输出序列长度的增加,累积的 KV 缓存会推高内存消耗,并逐步拖慢生成速度。这与人类在长距离抄写任务中效率不下降的现象形成鲜明对比。在本技术报告中,我们提出了 Unlimited OCR,一种旨在模拟人类解析工作记忆的模型。以 DeepSeek OCR 为基线,我们将其解码器中的所有注意力层替换为我们提出的参考滑动窗口注意力机制,该机制在降低注意力计算成本的同时,在整个解码过程中保持 KV 缓存恒定。通过将 DeepSeek OCR 编码器的高压缩率与我们的恒定 KV 缓存设计相结合,Unlimited OCR 能够在标准最大长度 32K 下,单次前向传播转录数十页文档。更重要的是,R‑SWA 是一种通用的解析注意力机制——除了 OCR,它同样适用于 ASR、翻译等任务。代码和模型权重已在 http://github.com/baidu/Unlimited-OCR 上公开。

查看 arXiv 页面 (https://arxiv.org/abs/2606.23050)查看 PDF (https://arxiv.org/pdf/2606.23050)GitHub756 (https://github.com/baidu/Unlimited-OCR)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.23050)

在你的 agent 中获取这篇论文:

hf papers read 2606\.23050

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接到这篇论文

请在模型 README.md 中引用 arxiv.org/abs/2606.23050,以便从此页面链接。

引用此论文的数据集0

没有数据集链接到这篇论文

请在数据集 README.md 中引用 arxiv.org/abs/2606.23050,以便从此页面链接。

引用此论文的 Space0

没有 Space 链接到这篇论文

请在 Space README.md 中引用 arxiv.org/abs/2606.23050,以便从此页面链接。

包含此论文的收藏集0

没有收藏集包含这篇论文

请将这篇论文添加到一个收藏集中,以便从此页面链接。

相似文章

Unlimited OCR: 一次性长程解析

Hacker News Top

百度发布Unlimited-OCR,这是一个基于Deepseek-OCR构建的开源模型,用于一次性长程文档解析,支持单张图片、多页文档和PDF。