Retrieval Augmented Generation
Ein Verfahren, bei dem vor der Antwort passende Textstellen aus eigenen Quellen abgerufen und der Anfrage beigelegt werden. Kurz RAG. Der Standardweg, um ein Modell mit Unternehmenswissen arbeiten zu lassen, ohne es nachzutrainieren.
Deutsch: abrufgestützte Generierung
Der Ablauf hat drei Schritte. Aus der Frage wird eine Suche über die eigenen Dokumente; die passendsten Stellen werden herausgeholt; sie gehen zusammen mit der Frage an das Modell, das seine Antwort daraus formuliert. Das Modell lernt dabei nichts — es bekommt die Unterlagen auf den Tisch, statt aus dem Gedächtnis zu sprechen.
Genau deshalb ist es der Standardweg für Unternehmenswissen. Eine Preisliste ändert sich monatlich, eine Betriebsanweisung quartalsweise, ein trainiertes Modell nicht. Wer Wissen in die Gewichte schreibt, muss es dort auch pflegen und kann einzelne Angaben weder zurücknehmen noch mit Rechten versehen. Ein Abruf zur Laufzeit kann beides.
Die Arbeit steckt danach nicht im Modell, sondern im Abruf. Ob die richtigen Stellen gefunden werden, hängt daran, wie die Dokumente geschnitten sind, wie gut die Suche mit Synonymen und Abkürzungen des Hauses umgeht und ob die Rechte des Fragenden dabei berücksichtigt werden. Wenn eine RAG-Anwendung enttäuscht, liegt es fast immer an diesen drei Punkten und fast nie am Sprachmodell.
Alle Begriffe stehen im KI-Glossar, dieser dort unter Retrieval Augmented Generation.