Retrieval ist der Such- und Beschaffungsschritt in KI-Systemen: Es durchforstet Datenbanken, Dateiablagen oder APIs nach den Dokumenten, die die notwendigen Fakten zur Beantwortung der aktuellen Frage enthalten.

Die Güte des Retrievals bestimmt die absolute Obergrenze der Antwortqualität: Findet das System veraltete, falsche oder unvollständige Textpassagen, kann selbst das intelligenteste Sprachmodell der Welt keine richtige Antwort liefern (Garbage in, Garbage out).

Moderne Retrieval-Architekturen setzen auf hybride Verfahren: Sie kombinieren semantische Vektorsuche mit klassischer Stichwortsuche, nutzen Metadaten-Filter (wie Datum oder Abteilung) und berücksichtigen die individuellen Benutzerrechte auf Dokumentenebene.