Werkzeuge
·
5 MIN
Baidu Unlimited-OCR: ein langes Dokument in einem Durchgang, on-prem
Baidus Unlimited-OCR hält den KV-Cache konstant und liest lange PDFs in einem Durchgang, MIT-lizenziert und on-prem.
LOCATION
Worldwide
SERIES
AI Use Cases & Tools
AUTHOR
Aashwin Shrivastava
PUBLISHED
Das Wichtigste an Baidus Unlimited-OCR ist nicht der höhere Benchmark-Wert, sondern dass ein ganzes langes Dokument in einem einzigen Durchgang durch das Modell läuft. Baidu hat das Modell am 22. Juni 2026 unter MIT-Lizenz veröffentlicht: 3 Milliarden Parameter als Mixture-of-Experts, von denen pro Schritt nur rund 500 Millionen aktiv sind. Klein genug, um on-prem auf überschaubarer Hardware zu laufen.
Für ein mittelständisches Unternehmen, das täglich Verträge, technische Handbücher und mehrseitige Rechnungen verarbeitet, ist das die interessantere Nachricht. Nicht die Texterkennung ist ein paar Punkte besser, sondern: ein 80-Seiten-Dokument muss nicht mehr in Stücke geschnitten und wieder zusammengesetzt werden, und dafür muss kein Dokument das Haus verlassen.
01.
Was Unlimited-OCR anders macht
Der Kern ist eine veränderte Aufmerksamkeit im Decoder, die den Speicher konstant hält. Klassische OCR-Modelle auf Transformer-Basis lassen den sogenannten KV-Cache mit der Länge des Dokuments wachsen. Je länger das PDF, desto mehr Speicher, bis es irgendwann nicht mehr in eine Verarbeitung passt.
Unlimited-OCR ersetzt diesen Teil durch Reference Sliding Window Attention (R-SWA). Der KV-Cache bleibt dabei konstant, unabhängig von der Dokumentlänge. Genau das meint der Begriff one-shot long-horizon parsing: ein langes Dokument wird in einem Durchgang gelesen, statt es in Abschnitte zu zerlegen und die Ergebnisse hinterher zusammenzufügen.
Bemerkenswert ist der Trainingsweg. Das Team hat nicht bei null angefangen, sondern den DeepSeek-OCR-Checkpoint weitertrainiert: den Encoder eingefroren und nur den Decoder über rund 4.000 Schritte angepasst. Damit steht das Modell in direkter Linie zu DeepSeek-OCR, das wir im Stack-Zusammenhang schon eingeordnet haben. Code und Gewichte liegen offen auf GitHub.
02.
Warum der konstante KV-Cache zählt
Das eigentliche Problem bei langen Dokumenten ist nicht die einzelne Seite, sondern der Zusammenhang über die Seiten hinweg. Wenn ein Modell ein 60-seitiges Dokument in Zehn-Seiten-Blöcke schneidet, geht genau das verloren, was im B2B-Alltag zählt: eine Tabelle, die über den Seitenumbruch läuft, eine Klausel, die sich auf einen früheren Abschnitt bezieht, eine Position, deren Bezugsgröße zwanzig Seiten vorher steht.
Ein konstanter KV-Cache erlaubt es, das ganze Dokument in einem Kontext zu halten. Der Speicher wächst nicht mit der Länge, also bleibt die Struktur über alle Seiten erhalten. Nebenbei wird es schneller: Baidu nennt im Base-Modus 5.580 Token pro Sekunde gegenüber 4.951 bei DeepSeek-OCR, bei einem Ausgabe-Limit von 6.000 Token liegt der Abstand bei rund 35 Prozent.
Bei der Genauigkeit liegt Unlimited-OCR auf OmniDocBench v1.5 bei 93,23 Punkten, 6,22 über der DeepSeek-OCR-Basis, auf v1.6 bei 93,92. Das sind die Zahlen aus dem Paper. Auf Ihren eigenen Dokumenten zählt am Ende, wie das Modell mit Ihren Tabellen, Stempeln und Formularen umgeht, nicht der Durchschnitt eines öffentlichen Testsets. Verwandt ist die Entwicklung bei subquadratischen LLMs, die langen Kontext on-prem günstiger machen.
03.
Wo das im Mittelstand etwas ändert
Der Nutzen entsteht dort, wo lange, strukturierte Dokumente in saubere, durchsuchbare Daten müssen. Ein paar konkrete Stellen:
Verträge und Rahmenvereinbarungen. Querverweise und Anhänge bleiben im Zusammenhang lesbar, statt an Blockgrenzen zu zerfallen.
Technische Handbücher und Normen. Lange Dokumente mit Abbildungen, Tabellen und nummerierten Abschnitten in einem Durchgang.
Mehrseitige Rechnungen und Belege. Sauber extrahierter Text ist die Vorstufe für strukturierte Weiterverarbeitung, etwa Richtung E-Rechnung.
Archive und Akten. Bestände, die bisher nur als Scan vorlagen, werden maschinell lesbar, ohne sie an einen Cloud-Dienst zu geben.
In fast allen Fällen ist OCR nicht das Ziel, sondern der erste Schritt. Sauber geparster Text ist die Grundlage für eine Wissensdatenbank mit RAG: je besser das Parsing, desto besser findet die Suche später die richtige Stelle.
04.
OCR oder visuelle Dokumentensuche?
Nicht jede Dokumentenaufgabe braucht klassische Texterkennung, und das ist eine ehrliche Abwägung. Es gibt inzwischen einen ganzen Zweig, der Dokumente gar nicht erst in Text umwandelt, sondern sie als Bild durchsucht, mit Modellen wie ColPali oder ColQwen. Diesen OCR-freien Ansatz haben wir gesondert beschrieben.
Die Faustregel, die sich bei uns bewährt hat:
Sie brauchen die tatsächlichen Zeichen (Rechnungsbeträge, Vertragsklauseln, strukturierte Extraktion, Weitergabe an ein anderes System): dann führt an OCR wenig vorbei, und ein Modell wie Unlimited-OCR ist hier stark.
Sie brauchen die passende Stelle, nicht den Volltext (eine Frage an einen großen Bestand beantworten, eine Abbildung wiederfinden): dann kann visuelle Dokumentensuche der direktere Weg sein.
Oft ist es beides nebeneinander. Unlimited-OCR macht den OCR-Teil dieses Stacks günstiger und auf langen Dokumenten verlässlicher.
05.
Was ich vor dem Produktivbetrieb prüfen würde
Ein guter Benchmark-Wert ist ein Grund, das Modell zu testen, kein Grund, es produktiv zu setzen. Bevor ich Unlimited-OCR in einen Kundenprozess setzen würde, würde ich vier Dinge prüfen:
🔸 Deutsche Dokumente und Handschrift. Die Benchmark-Zahlen sagen wenig über deutsche Formulare, alte Akten oder handschriftliche Vermerke. Das gehört auf einen eigenen Testsatz aus echten Dokumenten.
🔸 Tabellen und Layout. Bei B2B-Dokumenten entscheidet die Treue von Tabellen und Spalten über den Nutzen. Hier lohnt der direkte Vergleich mit dem bisherigen Stack.
🔸 Hardware und Betrieb. 3B als MoE mit rund 500M aktiven Parametern ist on-prem realistisch. Was das konkret an GPU-Speicher und Durchsatz bedeutet, gehört vor dem Rollout gemessen, nicht geschätzt.
🔸 Lizenz und Herkunft. MIT erlaubt den kommerziellen, on-prem-Einsatz ohne Fußnoten. Dass die Spur des Modells zu einem der DeepSeek-OCR-Autoren führt, ist ein Qualitätssignal, ersetzt aber die eigene Prüfung nicht.
Das eigentlich Interessante an dieser Veröffentlichung ist für mich weniger das Modell selbst als die Richtung: lange Dokumente in einem Durchgang, klein genug für das eigene Rechenzentrum, unter einer Lizenz, die niemanden einschränkt. Genau dort wird Dokumentenverarbeitung im Mittelstand gerade praktisch. Welche Ihrer Dokumente würden Sie zuerst durchlaufen lassen?
