Lo stack documentale senza OCR nel 2026: ColPali, ColQwen, ModernVBERT e Qdrant
I modelli di retrieval visivo esplorano la pagina come immagine invece di passare per l'OCR. Una panoramica sobria.
Traduzione generata automaticamente con IA. La versione tedesca è l'originale verificato dalla redazione.
Per il RAG documentale, nel 2026 l'OCR non è più il primo passo scontato. Una serie di modelli di retrieval visivo esplora la pagina direttamente come immagine, quindi comprensiva di layout, tabelle e diagrammi, senza scomporla prima in testo. Questo cambia dove, in un'architettura RAG, nascono gli errori e quali componenti servano ancora davvero. Quattro nomi ricorrono continuamente: ColPali, ColQwen, ModernVBERT e Qdrant. Questo testo li inquadra, senza hype, con i punti in cui il passaggio conviene e quelli in cui non conviene.
01. Perché l'OCR era la parte instabile della pipeline
Per molto tempo l'OCR è stato il punto in cui gli errori silenziosi entravano nella risposta. Il percorso classico è una catena: scansionare la pagina, convertirla in testo tramite OCR, tagliarla in pezzi, incorporarla, recuperarla. Ogni fase perde qualcosa. Una pagina a due colonne viene ricomposta in modo sbagliato, una tabella si disgrega in numeri senza senso, un diagramma sparisce del tutto perché non è testo. Nella nostra esperienza, sui documenti difficili la parte maggiore del problema di qualità non sta nel modello linguistico, ma qui, nella lettura. Il retrieval visivo interviene esattamente a questo livello: salta il riconoscimento del testo durante la ricerca e lavora sull'immagine della pagina.
02. I quattro componenti, spiegati in breve
ColPali. Il riferimento, presentato nel luglio 2024 (arXiv). Si basa sul modello visione-linguaggio PaliGemma e genera circa 1024 vettori di patch immagine per pagina, ciascuno a 128 dimensioni. Invece di comprimere la pagina in un unico vettore, la granularità viene mantenuta. Il confronto avviene tramite Late Interaction, una tecnica ripresa da ColBERT, che analizziamo più nel dettaglio qui.
ColQwen. Stessa ricetta, base diversa: ColQwen2.5 si basa su Qwen2.5-VL invece che su PaliGemma e nella maggior parte dei casi guida il benchmark ViDoRe. Chi inizia oggi da zero fa bene a partire da qui.
ModernVBERT. La leva dell'efficienza. ColModernVBERT ha 250M di parametri, quindi circa dieci volte in meno rispetto a ColPali, e secondo il paper resta comunque indietro solo di 0,6 nDCG@5. Questo è il componente che rende il retrieval visivo economicamente sostenibile on-premise.
Qdrant. L'infrastruttura sottostante. Qdrant memorizza nativamente i multi-vettori di questi modelli e calcola il punteggio di Late Interaction durante la ricerca (documentazione). Senza un database vettoriale che comprenda più vettori per pagina, nessuno dei tre encoder funziona.
03. Quando il passaggio conviene e quando no
Il retrieval visivo vince laddove il layout porta l'informazione. Contratti scansionati, fatture, schede tecniche, presentazioni, moduli, fascicoli multilingue: tutto ciò su cui una catena OCR fallisce regolarmente. Fa anche risparmiare l'intera manutenzione di quella catena.
Non è però un vantaggio generalizzato. Più vettori per pagina costano più memoria e più indice rispetto a un singolo vettore di testo, spesso di un multiplo. Su testo scorrevole pulito e puro, il RAG testuale classico resta più economico e del tutto sufficiente. E alcuni compiti alla fine richiedono comunque il testo, ad esempio la ricerca full-text, la copia o una traccia di verifica. Per questo ci sono ancora buoni motivi per l'OCR, in modalità ibrida accanto al retrieval visivo.
04. Un percorso sobrio
- Testare con i propri documenti, non con il benchmark. ViDoRe è un buon punto di riferimento, ma il vostro archivio non lo è. Prendete le venti pagine su cui la vostra ricerca attuale fallisce.
- Iniziare con ColQwen o ColModernVBERT, a seconda dell'hardware. Su una GPU limitata, il modello piccolo è spesso quello più onesto.
- Configurare Qdrant come storage multi-vettore, con la Late Interaction solo nella fase di re-ranking, per mantenere l'indice piccolo.
- Calcolare in anticipo il costo di storage. La dimensione dell'indice è il punto che farà male più avanti, non la scelta del modello.
Per chi cerca il quadro più ampio, cioè perché i modelli locali e il retrieval proprietario vadano di pari passo: è spiegato in on-premise contro cloud. I singoli componenti li approfondiamo in testi dedicati, a partire dallo sguardo sulle PMI.
