Tools
·
2 MIN
ModernVBERT: kleines Modell, on-prem-tauglich
ColModernVBERT erreicht mit 250M Parametern fast ColPali-Niveau und passt auf bescheidene Hardware.
LOCATION
Rheinland-Pfalz
SERIES
Sovereign & Offline AI
AUTHOR
Aashwin Shrivastava
PUBLISHED
Die spannendste Zahl im visuellen Retrieval 2025 ist nicht die größte, sondern die kleinste. ColModernVBERT erreicht mit 250 Millionen Parametern fast das Niveau von ColPali, das ein Jahr älter und rund zehnmal größer ist. Das klingt nach einem Detail für Modell-Sammler, ist aber genau der Unterschied, der visuelle Dokumentensuche on-prem bezahlbar macht.
01.
Warum Größe hier zum Hindernis wird
Visuelle Retrieval-Modelle wie ColPali oder ColQwen sind treffsicher, aber sie sind auch groß. On-prem, also auf eigener Hardware im Haus, wird das schnell zur Kostenfrage: große Modelle verlangen starke GPUs, mehr Speicher, mehr Strom. Für viele mittelständische Aufbauten ist nicht die Qualität die Hürde, sondern die Hardware-Rechnung. Genau hier setzt ein kleineres Modell den Hebel an.
02.
Was ModernVBERT anders macht
ModernVBERT ist ein kompakter Vision-Sprach-Encoder mit 250M Parametern (Paper). Er verbindet einen modernen 150M-Text-Encoder auf ModernBERT-Basis mit einem kleinen Bild-Encoder und richtet beide über ein Masked-Language-Modeling-Ziel aufeinander aus. ColModernVBERT ist die für Retrieval feinabgestimmte Variante. Das Ergebnis laut Paper: trotz rund zehnmal weniger Parametern liegt es nur 0,6 nDCG@5 unter ColPali auf dem aggregierten ViDoRe-Benchmark und erreicht damit Werte, für die sonst fast zehnmal größere Modelle nötig waren. Modell und Code sind offen verfügbar.
03.
Warum das für Souveränität zählt
Ein kleines, offenes, starkes Modell ist genau die Kombination, die lokalen Betrieb möglich macht. Es passt auf bescheidene GPU, die Gewichte liegen offen vor, und die Dokumente bleiben im Haus, weil die Suche nicht an einen fremden Endpunkt geht. Das ist kein Sicherheitsfeature im Nachhinein, sondern eine Eigenschaft der Architektur. Den größeren Zusammenhang, warum lokal und offen zusammengehören, behandeln wir in On-Premise gegen Cloud.
04.
Wann das kleine Modell die richtige Wahl ist
Nicht immer braucht es das größte Modell. Wenn Ihre Hardware begrenzt ist und Ihre Dokumente typische Geschäftsunterlagen sind, ist ColModernVBERT oft die ehrlichere Wahl als ColQwen: fast dieselbe Qualität, ein Bruchteil der Kosten. Brauchen Sie das letzte Quäntchen Treffsicherheit auf besonders dichten Seiten, lohnt der Vergleich mit dem größeren Modell. Wie beide im Gesamt-Stack mit Qdrant zusammenspielen, steht im Überblick.
