ModernVBERT: modello piccolo, adatto all'on-premise
ColModernVBERT raggiunge con 250M di parametri quasi il livello di ColPali e sta su hardware modesto.
Traduzione generata automaticamente con IA. La versione tedesca è l'originale verificato dalla redazione.
Il numero più interessante nel visual retrieval del 2025 non è il più grande, ma il più piccolo. ColModernVBERT raggiunge con 250 milioni di parametri quasi il livello di ColPali, che è più vecchio di un anno e circa dieci volte più grande. Sembra un dettaglio per collezionisti di modelli, ma è esattamente la differenza che rende accessibile la ricerca documentale visuale on-premise.
01. PERCHÉ QUI LA DIMENSIONE DIVENTA UN OSTACOLO
I modelli di visual retrieval come ColPali o ColQwen sono precisi, ma sono anche grandi. On-premise, cioè su hardware proprio in azienda, questo diventa rapidamente una questione di costi: i modelli grandi richiedono GPU potenti, più memoria, più corrente. Per molte PMI l'ostacolo non è la qualità, ma il conto dell'hardware. È esattamente qui che un modello più piccolo fa leva.
02. CHE COSA FA DIVERSAMENTE MODERNVBERT
ModernVBERT è un encoder vision-language compatto con 250M di parametri (paper). Combina un moderno text encoder da 150M basato su ModernBERT con un piccolo encoder di immagini e allinea i due tramite un obiettivo di masked language modeling. ColModernVBERT è la variante ottimizzata per il retrieval. Il risultato secondo il paper: nonostante circa dieci volte meno parametri, resta solo 0,6 nDCG@5 sotto ColPali sul benchmark aggregato ViDoRe, raggiungendo valori per i quali altrimenti servivano modelli quasi dieci volte più grandi. Modello e codice sono disponibili in modo aperto.
03. PERCHÉ QUESTO CONTA PER LA SOVRANITÀ
Un modello piccolo, aperto e potente è esattamente la combinazione che rende possibile il funzionamento in locale. Sta su una GPU modesta, i pesi sono disponibili apertamente, e i documenti restano in azienda perché la ricerca non passa per un endpoint esterno. Non si tratta di una funzione di sicurezza aggiunta a posteriori, ma di una proprietà dell'architettura. Il quadro più ampio, ovvero perché locale e aperto vanno insieme, lo trattiamo in On-Premise contro Cloud.
04. QUANDO IL MODELLO PICCOLO È LA SCELTA GIUSTA
Non serve sempre il modello più grande. Se il vostro hardware è limitato e i vostri documenti sono tipici documenti aziendali, ColModernVBERT è spesso la scelta più onesta rispetto a ColQwen: qualità quasi identica, una frazione dei costi. Se vi serve l'ultimo grado di precisione su pagine particolarmente dense, vale la pena confrontarlo con il modello più grande. Come i due lavorano insieme nello stack completo con Qdrant è descritto nella panoramica.
