百度提出 Unlimited OCR：恒定 KV 缓存单次前向可转录数十页文档

Youyang Yin、Huanhuan Liu、YY 等作者在技术报告中提出 Unlimited OCR，以 DeepSeek OCR 为基线，将解码器全部注意力层替换为所提出的参考滑动窗口注意力（R-SWA）。论文称，该设计在降低注意力计算开销的同时，使整个解码过程的 KV 缓存保持恒定，从而缓解长输出序列下内存占用上升与生成变慢的问题。作者称，结合 DeepSeek OCR 编码器的高压缩率与恒定 KV 缓存设计，Unlimited OCR 可在 32K 标准最大长度下，单次前向转录数十页文档。研究还称，R-SWA 是通用解析注意力机制，除 OCR 外也适用于语音识别、翻译等任务。代码与模型权重已在 GitHub 公开。