ModernVBERT: klein model, geschikt voor on-prem
ColModernVBERT bereikt met 250M parameters bijna het niveau van ColPali en past op bescheiden hardware.
Vertaling automatisch gegenereerd met AI. De Duitse versie is het redactioneel gecontroleerde origineel.
Het meest spannende getal in visuele retrieval van 2025 is niet het grootste, maar het kleinste. ColModernVBERT bereikt met 250 miljoen parameters bijna het niveau van ColPali, dat een jaar ouder en ongeveer tien keer groter is. Dat klinkt als een detail voor modelverzamelaars, maar is precies het verschil dat visuele documentzoekopdrachten on-prem betaalbaar maakt.
01. WAAROM GROOTTE HIER EEN OBSTAKEL WORDT
Visuele retrievalmodellen zoals ColPali of ColQwen zijn trefzeker, maar ze zijn ook groot. On-prem, dus op eigen hardware in huis, wordt dat al snel een kostenkwestie: grote modellen vragen om krachtige GPU's, meer geheugen, meer stroom. Voor veel mkb-opzetten is niet de kwaliteit de horde, maar de hardwarerekening. Precies hier zet een kleiner model de hefboom aan.
02. WAT MODERNVBERT ANDERS DOET
ModernVBERT is een compacte vision-language-encoder met 250M parameters (paper). Hij combineert een moderne 150M-tekstencoder op ModernBERT-basis met een kleine beeldencoder en lijnt beide op elkaar af via een masked-language-modelingdoel. ColModernVBERT is de voor retrieval fijn afgestemde variant. Het resultaat volgens de paper: ondanks ongeveer tien keer minder parameters ligt het slechts 0,6 nDCG@5 onder ColPali op de geaggregeerde ViDoRe-benchmark, en behaalt daarmee waarden waarvoor anders bijna tien keer grotere modellen nodig waren. Model en code zijn openbaar beschikbaar.
03. WAAROM DIT TELT VOOR SOEVEREINITEIT
Een klein, open, sterk model is precies de combinatie die lokale werking mogelijk maakt. Het past op een bescheiden GPU, de gewichten liggen open, en de documenten blijven in huis omdat de zoekopdracht niet naar een extern eindpunt gaat. Dat is geen achteraf toegevoegde beveiligingsfunctie, maar een eigenschap van de architectuur. Het grotere verband, waarom lokaal en open bij elkaar horen, behandelen we in On-Premise tegen Cloud.
04. WANNEER HET KLEINE MODEL DE JUISTE KEUZE IS
Niet altijd is het grootste model nodig. Als uw hardware beperkt is en uw documenten typische zakelijke documenten zijn, is ColModernVBERT vaak de eerlijkere keuze dan ColQwen: bijna dezelfde kwaliteit, een fractie van de kosten. Hebt u dat laatste beetje trefzekerheid nodig op bijzonder dichte pagina's, dan loont de vergelijking met het grotere model. Hoe beide samenwerken in de volledige stack met Qdrant, staat in het overzicht.
