Baiduの新OCRモデル、最大50ページの文書でメモリコストを一定化
Baiduの研究者らは、最大50ページの文書を一定のメモリ使用量で1回のパス処理できるモデル「Unlimited OCR」をリリースした。このブレークスルーにより、OCRシステムが長文ファイルをページごとに処理せざるを得なかったメモリのボトルネックが解消される。
baidu introduced unlimited ocr, a solution to the inference memory bottleneck where key-value caches grow linearly with text length. by implementing reference sliding window attention (r-swa), the model attends to all visual tokens but only the last 128 generated tokens, keeping memory use flat. based on deepseek ocr, it uses a 3-billion parameter mixture-of-experts decoder and a frozen deepencoder that compresses 1024x1024 images into 256 tokens. training on 2 million samples showed that this approach achieves 93% on the omnidocbench v1.5 benchmark, proving that constant memory inference does not require sacrificing multi-page recognition quality.