量子位· 听雨·· 12 小时前精选AI 评分86
百度发布并开源文心 Unlimited OCR 2，KV 缓存减少 96%
KV Cache被压成常数！OCR开源新王：页数没上限，缓存砍96%
AI 导读
百度正式发布并开源文心 Unlimited OCR 2，支持无页数上限的长文档连续识别。该模型通过引入稀疏参考滑动窗口注意力机制（SR-SWA）与无限解码机制，将百页级单序列推理的峰值 KV 缓存占用从 47GB 降至 1.77GB，降幅达 96%。
推荐理由
百度发布并开源了文心Unlimited OCR 2，通过引入稀疏参考滑动窗口注意力机制与无限解码机制，大幅降低了长文档处理的显存占用与计算开销。
来源：量子位 · qbitai.com