Retrieval-Augmented Generation, en waarom het soevereine AI draagt
RAG verankert de antwoorden van een model in opgehaalde bronnen en vermindert hallucinatie en veroudering. Waarom het soevereine AI draagt.
Stand van zaken april 2024. Gegevens over modellen, prijzen en benchmarks kunnen inmiddels achterhaald zijn. Vertaling automatisch gegenereerd met AI. De Duitse versie is het redactioneel gecontroleerde origineel.
Een taalmodel op zichzelf antwoordt vanuit bevroren trainingsdata, zo eindigt het zelfverzekerd en fout. Retrieval-Augmented Generation (RAG) pakt dit aan: het haalt eerst relevante, actuele bronnen op en genereert het antwoord vervolgens daaruit. Voor ons is het de ruggengraat van de meeste nuttige, betrouwbare AI-systemen.
01. Wat RAG is
RAG is een hybride raamwerk dat een generatief model koppelt aan een retrieval-systeem. In plaats van alleen te vertrouwen op wat het model tijdens de training heeft geleerd, haalt het op het moment van antwoorden externe informatie erbij.
Het verloopt in twee stappen. Retrieval: Bij een vraag doorzoekt het systeem een kennisbank naar de daarvoor meest relevante passages. Generatie: Het model stelt vervolgens een natuurlijk antwoord op, verankerd in deze passages. Het antwoord leest als een gesprek, maar is gebonden aan echte bronnen in plaats van aan het geheugen van het model.
02. Waarom het telt
- Feitelijke verankering. Antwoorden baseren op geverifieerde bronnen vermindert de zelfverzekerde, plausibele fouten die niet-verankerde modellen graag produceren.
- Actuele kennis. De retriever kan live data lezen, zodat antwoorden niet zo verouderen als vaste trainingsgewichten.
- Aanpasbaar over domeinen heen. Richt het op een support-kennisbank, een onderzoekscorpus of interne documenten, en dezelfde aanpak past voor support, onderzoek, gezondheidszorg of onderwijs.
Voor een uitgebreidere introductie is NVIDIA's uitleg over RAG een goed startpunt.
03. Waarom het soevereine AI draagt
RAG is de plek waar vermogen en controle elkaar ontmoeten. De kennis bevindt zich in een opslag die van u is, het model kan in uw eigen omgeving draaien, en het antwoord is verankerd in uw data, die deze nooit hoeft te verlaten. Dat is hetzelfde punt dat wij maken over open-weight modellen: vermogen dat u kunt hosten, is vermogen dat u kunt controleren.
Voor een team dat afweegt waar zijn AI moet leven, is RAG vaak de eerste ontwerpbeslissing die een zelf gehost systeem echt nuttig maakt in plaats van een demo.
