Stos dokumentów bez OCR w 2026: ColPali, ColQwen, ModernVBERT i Qdrant
Modele wizualnego wyszukiwania przeszukują stronę jako obraz zamiast przez OCR. Trzeźwy przegląd.
Tłumaczenie wygenerowane automatycznie przez AI. Wersja niemiecka jest oryginałem zweryfikowanym redakcyjnie.
Dla RAG dokumentowego OCR w 2026 roku nie jest już oczywistym pierwszym krokiem. Seria modeli visual retrieval przeszukuje stronę bezpośrednio jako obraz, a więc razem z układem, tabelami i wykresami, bez wcześniejszego rozkładania jej na tekst. To zmienia, gdzie w architekturze RAG powstają błędy i jakich elementów składowych w ogóle jeszcze potrzeba. Wciąż pojawiają się cztery nazwy: ColPali, ColQwen, ModernVBERT i Qdrant. Ten tekst je porządkuje, bez hype'u, wskazując miejsca, w których zmiana się opłaca, i te, w których się nie opłaca.
01. Dlaczego OCR był najsłabszym ogniwem pipeline'u
OCR długo był punktem, w którym do odpowiedzi wkradały się ciche błędy. Klasyczna droga to łańcuch: zeskanować stronę, przekształcić przez OCR w tekst, pociąć na fragmenty, zwektoryzować, wyszukać. Każdy etap coś traci. Dwukolumnowa strona zostaje źle złożona, tabela rozpada się na bezładne liczby, wykres wypada całkowicie, bo nie jest tekstem. Z naszego doświadczenia wynika, że przy trudnych dokumentach większa część problemu z jakością tkwi nie w modelu językowym, lecz właśnie tutaj, w czytaniu. Visual retrieval działa dokładnie na tym etapie: pomija rozpoznawanie tekstu podczas wyszukiwania i pracuje na obrazie strony.
02. Cztery elementy składowe, krótko wyjaśnione
ColPali. Punkt odniesienia, zaprezentowany w lipcu 2024 roku (arXiv). Bazuje na modelu wizyjno-językowym PaliGemma i generuje około 1024 wektory fragmentów obrazu na stronę, każdy o 128 wymiarach. Zamiast wciskać stronę w pojedynczy wektor, zachowana zostaje granularność. Dopasowanie odbywa się przez Late Interaction, technikę przejętą z ColBERT, którą rozkładamy dokładniej tutaj.
ColQwen. Ten sam przepis, inna baza: ColQwen2.5 opiera się na Qwen2.5-VL zamiast PaliGemma i zazwyczaj prowadzi w benchmarku ViDoRe. Kto zaczyna dziś od nowa, sensownie zaczyna właśnie tutaj.
ModernVBERT. Dźwignia efektywności. ColModernVBERT ma 250M parametrów, czyli około dziesięciokrotnie mniej niż ColPali, a mimo to według artykułu ustępuje mu jedynie o 0,6 nDCG@5. To element składowy, który czyni visual retrieval opłacalnym on-premise.
Qdrant. Infrastruktura pod spodem. Qdrant przechowuje multi-wektory tych modeli natywnie i oblicza ocenę Late Interaction podczas wyszukiwania (dokumentacja). Bez bazy wektorowej, która rozumie wiele wektorów na stronę, żaden z trzech enkoderów nie działa.
03. Kiedy zmiana się opłaca, a kiedy nie
Visual retrieval wygrywa tam, gdzie informację niesie układ strony. Zeskanowane umowy, faktury, karty katalogowe, prezentacje, formularze, wielojęzyczne akta: wszystko, na czym łańcuch OCR regularnie zawodzi. Oszczędza to również całe utrzymanie tego łańcucha.
Nie jest to jednak zysk uniwersalny. Wiele wektorów na stronę kosztuje więcej pamięci i większy indeks niż pojedynczy wektor tekstowy, często wielokrotnie więcej. Przy czystym, jednolitym tekście ciągłym klasyczny RAG tekstowy pozostaje tańszy i w zupełności wystarczający. A niektóre zadania i tak potrzebują tekstu, na przykład wyszukiwanie pełnotekstowe, kopiowanie czy ślad audytowy. Dla tego wciąż istnieją dobre powody dla OCR, w hybrydzie obok visual retrieval.
04. Trzeźwy plan działania
- Testować na własnych dokumentach, nie na benchmarku. ViDoRe to dobry punkt odniesienia, ale nie jest nim stan Państwa akt. Proszę wziąć dwadzieścia stron, na których dzisiejsze wyszukiwanie zawodzi.
- Zacząć od ColQwen albo ColModernVBERT, zależnie od sprzętu. Przy skromnym GPU mniejszy model jest często uczciwszym wyborem.
- Skonfigurować Qdrant jako magazyn multi-wektorowy, z Late Interaction tylko na etapie re-rankingu, aby utrzymać mały indeks.
- Policzyć koszt pamięci z wyprzedzeniem. To rozmiar indeksu boli później, nie wybór modelu.
Kto szuka szerszej perspektywy, czyli dlaczego lokalne modele i własny retrieval w ogóle idą w parze: to jest opisane w On-premise kontra cloud. Poszczególne elementy składowe rozwijamy w osobnych tekstach, zaczynając od spojrzenia dla sektora MŚP.
