Baidu hat veröffentlicht Unlimited OCR 2, ein Open-Source-OCR-Modell, das für sehr lange Dokumente gebaut wurde. Das 3B-Modell parst Bücher, Unterlagen und Berichte von Hunderten von Seiten in einer einzigen Anfrage. Seine zentrale Änderung ist SR-SWA, ein Sparse-Attention-Schema, das die Dekodierkosten pro Schritt nahezu konstant hält. Die Gewichte werden unter der MIT-Lizenzausgeliefert, mit Code auf GitHub.
TL;DR
- Größe: 3.34B Parameter. Aktive Parameter nicht angegeben. Maximale Positionslänge 131,072 Token.
- Läuft auf: 1 CUDA-GPU in BF16. Baidu hat auf einer NVIDIA A800-80GB getestet. BF16-Gewichte ergeben insgesamt etwa 6.7 GB.
- Leistung: erster Platz bei beiden Multi-Page-Benchmarks, die Baidu getestet hat, gegen 9 andere Modelle (selbst berichtet).
- Bestes Ergebnis: 77.1 gesamt auf MarathonDocBench (Hunderte von Seiten). Das nächstbeste Modell, Kimi-K3, erreicht 33.7.
- Schlechtestes Ergebnis: 48.2 bei Heading-Hierarchie (TEDS) auf MarathonDocBench, sein niedrigster Teilwert.
Was ist Unlimited OCR 2?
Unlimited OCR 2 ist ein Vision-Language-Modell mit 3B von Baidu, das geordnete Seitenbilder in strukturierten Text umwandelt. Die Ausgabe umfasst Text, Tabellen, Formeln, Abbildungen, Überschriften und Lesereihenfolge. Es ist der Nachfolger von Unlimited-OCR, das im Juni 2026 veröffentlicht wurde, um DeepSeek-OCR weiterzuführen.
Die Konfiguration beibehält ein DeepSeek-OCR-typisches Layout. Ein SAM ViT-B plus CLIP-L-Encoder speist einen 12-Schicht-Mixture-of-Experts-Decoder. Jedes Token wird an 6 von 64 Experten sowie 2 geteilte Experten geroutet. Das DeepSeek-OCR-Paper beschreibt diesen Decoder als DeepSeek3B-MoE-A570M. Baidu gibt für Version 2 keine aktive Parameterzahl an. Im Multi-Page-Modus kostet jede Seite 273 Bild-Token.
Wie funktioniert SR-SWA?
Die Kosten der vollen Aufmerksamkeit wachsen quadratisch mit der Sequenzlänge. Während der Dekodierung durchsucht jedes neue Token einen längeren KV-Cache. Bei 273 Bild-Token pro Seite fügen 100 Seiten 27,300 Eingabe-Token hinzu, bevor irgendeine Ausgabe entsteht.
SR-SWA steht für Sparse Reference Sliding Window Attention. Es komprimiert die Text-Bild-Aufmerksamkeit in einen festen Satz von Arbeitsreferenzen. Baidus Modellkarte nennt 512 Token als Beispielgröße. Die Konfiguration kombiniert ein lokales Fenster von 128 Token mit einer Top-16-Auswahl über Blöcke von 32 Token. Das sind 16 Blöcke mit je 32 Token, passend zum Budget von 512 Token.
Dadurch bleiben Latenz und Speicherverbrauch pro Schritt nahezu konstant, während Dokumente wachsen. Baidu nennt das Ergebnis ‚unlimited-horizon‘-Parsing innerhalb eines endlichen Kontextfensters. Die Bildkodierung und die Gesamtlaufzeit steigen weiterhin mit der Seitenzahl.
Wie schneidet es bei MPDocBench und MarathonDocBench ab?
Das Baidu-Team testet auf MPDocBench mit dutzenden Seiten pro Dokument und auf MarathonDocBench mit hunderten. MPDocBench-Parse ist ein öffentlicher Benchmark mit 433 Dokumenten und 3,246 Seiten. Eine öffentliche Veröffentlichung von MarathonDocBench konnten wir nicht finden.
Laut Baidus Leaderboard-Diagrammerreicht Unlimited OCR 2 auf MPDocBench 84.6. Qwen3.8-Max folgt mit 78.3, dann Qwen-3.8-Flash-Next mit 77.4. Auf MarathonDocBench erreicht es 77.1. Kimi-K3 ist der Nächste mit 33.7, dann Gemini-3.8-Flash mit 28.6.
Der Abfall zwischen den Benchmarks ist die eigentliche Geschichte. Qwen3.8-Max fällt bei Dokumenten mit hundert Seiten von 78.3 auf 22.9. Unlimited OCR 2 fällt um 7.5 Punkte. Sein Vorgänger, Unlimited-OCR, erreicht 0.0 auf MarathonDocBench.
Teilergebnisse (MPDocBench / MarathonDocBench):
- Text: 94.8 / 89.6
- Formeln: 89.4 / 87.9
- Lesereihenfolge: 92.3 / 85.3
- Tabellen: 87.8 / 74.8
- Überschriftenhierarchie: 60.1 / 48.2
Die Einzelmertik-Abstände auf MPDocBench sind gering. Qwen3.8-Max erreicht 94.3 bei Text und 89.2 bei Formeln. Alle Zahlen sind selbst berichtet und erscheinen nur in einem Diagrammbild.
Vergleich mit anderen offenen OCR-Modellen
| Unlimited OCR 2 | Unlimited-OCR | DeepSeek-OCR-2 | PaddleOCR-VL-1.6 | |
|---|---|---|---|---|
| Entwickler | Baidu | Baidu | DeepSeek | Baidu PaddlePaddle |
| Parameter | 3.34B | 3.34B | 3.39B | 0.96B |
| Aktive Parameter | Nicht offengelegt | Nicht offengelegt | Nicht offengelegt | Nicht offengelegt |
| Lizenz | MIT | MIT | Apache 2.0 | Apache 2.0 |
| Paper / Veröffentlichung | Okt 2026 (report) | Jun 2026 (arXiv) | Jan 2026 (arXiv) | Jun 2026 (arXiv) |
| Mechanismus für lange Dokumente | SR-SWA, 512-Token-Referenzmenge | Mehrseitig infer_multi, kein SR-SWA | Nicht offengelegt | Nicht offengelegt |
| MPDocBench gesamt | 84.6 (Baidu) | 61.9 (Baidu) | Nicht berichtet | Nicht berichtet |
| MarathonDocBench gesamt | 77.1 (Baidu) | 0.0 (Baidu) | Nicht berichtet | Nicht berichtet |
| Serving | Transformers, benutzerdefiniertes SGLang | Transformers, vLLM, SGLang | Transformers, SGLang | PaddleOCR, Transformers |
Parameteranzahlen und Lizenzen von der jeweiligen Hugging-Face-Seite der Modelle. Benchmark-Werte aus Baidus Diagramm.
Wie führt man Unlimited OCR 2 aus?
Die Modellkarte listet Transformers für schnelle Tests und SGLang für den Serving-Betrieb auf. In Transformers, infer verarbeitet 1 Seite mit dynamischem Tiling, dem sogenannten gundam mode. infer_multi parst jede Seite eines Dokuments in 1 Anfrage, sodass das Modell den kontextübergreifenden Kontext über Seiten hinweg behält. Das Laden erfordert trust_remote_code=True, das Python-Code aus dem Repository ausführt.
Das SGLang-Serving verwendet ein angepasstes Wheel von Baidu, nicht das Upstream-SGLang. Baidus Beispiel plant 10 Seiten pro Fenster und nutzt das KV-Ende des vorherigen Fensters wieder. Kleinere Fenster senken den Speicherbedarf, schwächen aber das seitenübergreifende Zusammenführen. Baidu warnt, dass eine Standard-Bias-Einstellung eine Zuweisung von 462 MiB auslösen und zu einem Speichermangel führen kann.
Wichtigste Erkenntnisse
- Unlimited OCR 2 ist ein 3.34B großes OCR-Modell von Baidu mit MIT-Lizenz.
- SR-SWA begrenzt die Aufmerksamkeit auf einen festen Referenzsatz von 512 Token.
- Es erzielt 77.1 auf MarathonDocBench, gegenüber 33.7 für das nächstbeste Modell.
- Die Überschriftenhierarchie ist die Schwachstelle, mit 48.2 bei langen Dokumenten.
- Alle Benchmark-Zahlen stammen von Baidu selbst.
Schauen Sie sich die Modellkarte, den technischen Bericht und das GitHub-Repositoryan. Außerdem können Sie uns gerne auf Twitter folgen und vergessen Sie nicht, unserem 150k+ML SubReddit beizutreten und unseren Newsletterzu abonnieren. Moment! Sind Sie auf Telegram? jetzt können Sie uns auch auf Telegram beitreten.
Möchten Sie mit uns zusammenarbeiten, um Ihr GitHub-Repository ODER Ihre Hugging-Face-Seite ODER Ihre Produkteinführung ODER ein Webinar usw. zu bewerben? Verbinden Sie sich mit uns
Der Beitrag Baidu Open-Sources Unlimited OCR 2 for Hundred-Page Document Parsing erschien zuerst auf MarkTechPost.