ModernVBERT: modelo pequeño, apto para on-prem
ColModernVBERT alcanza casi el nivel de ColPali con 250M de parámetros y cabe en hardware modesto.
Traducción generada automáticamente con IA. La versión alemana es el original revisado por la redacción.
La cifra más emocionante del retrieval visual en 2025 no es la más grande, sino la más pequeña. ColModernVBERT alcanza con 250 millones de parámetros casi el nivel de ColPali, que es un año más antiguo y unas diez veces más grande. Suena a detalle para coleccionistas de modelos, pero es justamente la diferencia que hace asequible la búsqueda visual de documentos on-prem.
01. POR QUÉ EL TAMAÑO SE VUELVE AQUÍ UN OBSTÁCULO
Los modelos de retrieval visual como ColPali o ColQwen son certeros, pero también son grandes. On-prem, es decir, sobre hardware propio en casa, eso se vuelve rápido una cuestión de coste: los modelos grandes exigen GPU potentes, más memoria, más electricidad. Para muchos montajes de pyme, el obstáculo no es la calidad, sino la factura del hardware. Justamente aquí aplica un modelo más pequeño la palanca.
02. QUÉ HACE DISTINTO MODERNVBERT
ModernVBERT es un encoder compacto de visión y lenguaje con 250M de parámetros (paper). Combina un moderno text-encoder de 150M basado en ModernBERT con un pequeño image-encoder y alinea ambos mediante un objetivo de Masked-Language-Modeling. ColModernVBERT es la variante ajustada para retrieval. El resultado según el paper: pese a unas diez veces menos parámetros, queda solo 0,6 nDCG@5 por debajo de ColPali en el benchmark agregado ViDoRe y alcanza así valores para los que antes hacían falta modelos casi diez veces más grandes. Modelo y código están disponibles de forma abierta.
03. POR QUÉ ESTO CUENTA PARA LA SOBERANÍA
Un modelo pequeño, abierto y potente es justamente la combinación que hace posible la operación local. Cabe en una GPU modesta, los pesos están abiertos, y los documentos permanecen en casa, porque la búsqueda no va a un endpoint ajeno. Eso no es una función de seguridad añadida a posteriori, sino una propiedad de la arquitectura. El contexto mayor, por qué local y abierto van juntos, lo tratamos en On-Premise contra Cloud.
04. CUÁNDO EL MODELO PEQUEÑO ES LA ELECCIÓN CORRECTA
No siempre hace falta el modelo más grande. Si su hardware es limitado y sus documentos son documentos de negocio típicos, ColModernVBERT es a menudo la elección más honesta que ColQwen: casi la misma calidad, una fracción del coste. Si necesita el último ápice de precisión en páginas especialmente densas, vale la pena la comparación con el modelo más grande. Cómo interactúan ambos en el stack completo con Qdrant está en el resumen.
