Methodology
·
2 MIN
Late Interaction erklärt: warum Qdrant und ColQwen die bessere Wissensdatenbank bauen
Late Interaction vergleicht jeden Suchbegriff mit jedem Seitenausschnitt. Qdrant speichert das nativ.
LOCATION
Worldwide
SERIES
RAG Architectures
AUTHOR
Aashwin Shrivastava
PUBLISHED
Der Unterschied zwischen einer mittelmäßigen und einer guten Vektorsuche steckt oft in einem Detail: ob eine Seite durch einen einzigen Vektor dargestellt wird oder durch viele. Late Interaction wählt das Viele, und genau das macht Modelle wie ColQwen auf visuell dichten Dokumenten so treffsicher. Qdrant ist eine der Vektordatenbanken, die das nativ tragen. Dieser Text erklärt das Prinzip ohne Mathematik-Ballast.
01.
Das Problem mit dem einen Vektor
Klassische Vektorsuche presst einen ganzen Textabschnitt oder eine ganze Seite in einen einzigen Vektor. Das ist sparsam, aber es mittelt weg, was lokal wichtig ist. Steht der gesuchte Betrag in einer bestimmten Tabellenzelle, verschwindet dieser Bezug im Durchschnitt der ganzen Seite. Für sauberen Fließtext genügt das oft. Für die Dokumente, an denen visuelle Suche überhaupt antritt, genügt es nicht.
02.
Late Interaction, in einem Satz
Late Interaction behält viele Vektoren pro Seite und vergleicht sie spät, erst beim Suchen. Das Modell erzeugt für die Suchanfrage einen Vektor je Token und für die Seite einen Vektor je Ausschnitt. Die Bewertung heißt MaxSim: für jeden Anfrage-Token wird der am besten passende Seitenausschnitt gesucht, und diese besten Treffer werden summiert. So kann das Wort "Restbetrag" gezielt an der Tabellenzelle andocken, in der er steht. Die Technik stammt aus ColBERT und wurde mit ColPali auf Bilder übertragen. Wer den ganzen Baukasten sehen will: der OCR-freie Stack ordnet die Modelle ein.
03.
Wo Qdrant ins Spiel kommt
Late Interaction braucht eine Datenbank, die mehrere Vektoren pro Objekt versteht. Qdrant unterstützt solche Multi-Vektoren direkt, ohne Vor- oder Nachbearbeitung, und kann jedes Late-Interaction-Modell wie ColBERT oder ColPali tragen (Doku). Der übliche Aufbau ist zweistufig: eine schnelle erste Suche mit normalen Dichte-Vektoren grenzt die Kandidaten ein, dann bewertet MaxSim nur diese wenigen Seiten genau nach. So bleibt der Index bezahlbar, denn die teuren Token-Vektoren müssen nicht voll indexiert werden, sondern dienen dem Re-Ranking.
04.
Was das praktisch bedeutet
Sie bekommen Treffer, die das Layout respektieren, ohne die Suche unbezahlbar zu machen. Der Preis ist mehr Speicher pro Seite und etwas mehr Komplexität beim Aufbau. Beides ist beherrschbar, wenn man die Re-Ranking-Stufe von Anfang an einplant statt jeden Token-Vektor voll zu indexieren. Für sehr lange Kontexte lohnt der Blick auf subquadratische Modelle; für die Grundidee von Retrieval bleibt Was ist RAG der Einstieg.
