KI
·
2 MIN
Schluss mit OCR? Visuelle Dokumentensuche und was sie für den Mittelstand ändert
Visuelle Retrieval-Modelle finden Tabellen und Scans, an denen OCR-RAG scheitert. Was das praktisch heißt.
LOCATION
Rheinland-Pfalz
SERIES
RAG Architectures
AUTHOR
Aashwin Shrivastava
PUBLISHED
Wenn eine KI-Suche über Ihre Dokumente bei den wichtigen Akten danebenliegt, ist meist nicht das Sprachmodell schuld, sondern das Lesen davor. Genau hier setzt visuelle Dokumentensuche an. Statt eine gescannte Seite erst per OCR in Text zu zwingen, durchsucht sie die Seite direkt als Bild, mit Layout, Tabellen und Stempeln. Für den Mittelstand, der selten sauberes Markdown, aber viele PDFs, Scans und Formulare hat, ist das der relevantere Fortschritt des Jahres.
01.
Wo klassisches RAG im Mittelstand scheitert
RAG macht aus Ihren Dokumenten durchsuchbares Wissen. Der schwache Punkt ist die erste Stufe: die Texterkennung. Eine Lieferantenrechnung mit Positionstabelle, ein zweispaltiger Vertrag, ein eingescanntes Datenblatt mit Maßzeichnung: OCR fügt so etwas regelmäßig falsch zusammen. Die Tabelle wird zur Zahlenwüste, die Spalten verschränken sich, die Zeichnung verschwindet. Das Modell bekommt dann schon kaputten Text und antwortet entsprechend. In unserer Erfahrung liegt bei realen Akten der größere Teil der Fehler hier, lange bevor ein Sprachmodell überhaupt zu Wort kommt.
02.
Wie visuelle Suche das umgeht
Visuelle Retrieval-Modelle überspringen die Texterkennung beim Suchen. Sie zerlegen das Bild der Seite in viele kleine Ausschnitte, betten jeden ein und vergleichen die Suchanfrage direkt damit. So bleibt erhalten, dass eine Zahl in einer Tabellenzelle steht und nicht im Fließtext. Drei Namen führen das Feld an: ColPali als Referenz, ColQwen als meist stärkere Variante auf Qwen-Basis, und ModernVBERT als kleines, on-prem-taugliches Modell. Den ganzen Baukasten samt Vektordatenbank ordnen wir im Stack-Überblick ein. Für den Praxisblick reicht: die Seite wird gesehen, nicht erraten.
03.
Ehrlich über die Kosten
Der Gewinn ist nicht umsonst. Mehrere Vektoren pro Seite brauchen deutlich mehr Indexspeicher als ein einzelner Text-Vektor. Bei einem Archiv aus reinem, sauberem Fließtext bleibt klassisches Text-RAG günstiger und genügt. Visuelle Suche lohnt sich dort, wo das Layout die Information trägt, und genau das ist im Mittelstand eher die Regel als die Ausnahme. Und für Fälle, in denen Sie am Ende doch durchsuchbaren Text brauchen, etwa zum Kopieren oder für eine Prüfspur, bleibt OCR sinnvoll, als Ergänzung statt Ersatz.
04.
Der erste Schritt ist klein
Man muss dafür nichts Großes umbauen. Nehmen Sie die zwanzig Dokumente, an denen Ihre heutige Suche scheitert, und stellen Sie genau die Fragen, die heute danebengehen. Wenn die visuelle Suche die Tabellenzeile findet, die OCR verloren hat, haben Sie Ihre Antwort, an Ihren eigenen Akten, nicht an einem Benchmark. Das Schöne daran: der ganze Aufbau läuft lokal, die Daten bleiben im Haus. Warum das für sensible Unterlagen zählt, steht in On-Premise gegen Cloud.
