Glossar · KI-Technik
Retrieval Augmented Generation (RAG)
Auch: RAG, abrufgestützte Generierung
RAG ist das Verfahren, mit dem ein Sprachmodell vor der Antwort passende Textstellen aus einer Wissensquelle abruft und nur daraus antwortet. Das Modell wird dabei nicht verändert, es bekommt die Fakten zur Laufzeit mitgeliefert.
Einordnung
Was das für Ihre Wissensbasis bedeutet
RAG ist der technische Grund, warum eine Wissensbasis wichtiger ist als das Modell. Der Abruf findet nur, was sauber strukturiert, eindeutig benannt und aktuell ist. Ein Ordner mit 4.000 PDFs, davon die Hälfte veraltet, liefert auch mit dem besten Modell widersprüchliche Antworten.
Deshalb beginnen wir nicht bei der Technik, sondern bei den Dokumenten: Welche 20 Prozent tragen 80 Prozent des Wissens, welches ist die gültige Fassung, wer hat sie freigegeben. Erst dann lohnt sich der Abruf.
Datenschutz und Compliance
Was dabei zu beachten ist
Beim Abruf werden ganze Textabschnitte an das Modell übergeben. Enthalten die Quelldokumente personenbezogene Daten, gelangen diese mit. Vor dem Anschluss an ein Modell müssen Quellen klassifiziert und nicht benötigte personenbezogene Daten entfernt oder maskiert werden.
Weiterlesen
Passende Leistung und verwandte Begriffe
Lassen Sie uns sprechen
Aus einer Herausforderung wird eine Lösung.
Ein Gespräch. 30 Minuten. Keine Vorbereitung.
Erstgespräch vereinbarenUnverbindlich · 30 Minuten