Glossar

RAG (Retrieval-Augmented Generation)

Retrieval-Augmented Generation ist ein Architekturmuster für KI-Anwendungen, das ein Sprachmodell mit einer externen Wissensquelle verbindet. Statt sich allein auf das (statische, beim Training eingefrorene) Wissen des Modells zu verlassen, sucht das System vor der Antwort relevante Dokumente – etwa aus einer internen Wissensdatenbank – und reicht sie dem Modell als Kontext mit. Die Antwort stützt sich damit auf aktuelle, überprüfbare Quellen statt auf Erinnerung. Technisch besteht RAG aus zwei Schritten: Beim Indexieren werden Dokumente in Abschnitte zerlegt und als Vektor-Embeddings gespeichert; bei einer Anfrage werden die semantisch ähnlichsten Abschnitte gefunden (Retrieval) und zusammen mit der Frage an das Modell übergeben (Generation). Das reduziert Halluzinationen deutlich, hält Wissen ohne teures Nachtrainieren aktuell und erlaubt Quellenangaben in der Antwort – bei Sicherheitsthemen unverzichtbar. RAG hat aber eigene Sicherheitsrisiken, die oft unterschätzt werden: Indirekte Prompt Injection (manipulierte Inhalte in den abgerufenen Dokumenten steuern das Modell), Datenabfluss (das System gibt Inhalte preis, auf die der fragende Nutzer keinen Zugriff haben dürfte – Zugriffsrechte müssen im Retrieval durchgesetzt werden) und vergiftete Wissensquellen. Wer RAG betreibt, sollte Eingaben wie Ausgaben behandeln wie jede andere Systemgrenze: validieren, filtern, berechtigungsbewusst. SecFeed nutzt das Muster perspektivisch selbst („Frag SecFeed“): Antworten zu Sicherheitslücken sollen ausschließlich aus der eigenen, kuratierten Meldungsdatenbank stammen – mit Quellenlink zu jeder Aussage. Abzugrenzen ist RAG vom Fine-Tuning: Beim Fine-Tuning wird das Modell selbst mit eigenen Daten nachtrainiert – teuer, langsam zu aktualisieren und ohne Quellenangabe. RAG lässt das Modell unverändert und tauscht nur das Wissen zur Laufzeit aus; beides lässt sich kombinieren. Für den produktiven Einsatz entscheidend sind die unscheinbaren Details: gute Zerlegung der Dokumente (Chunking), hybride Suche aus Vektor- und Stichwort-Verfahren, Reranking der Treffer und eine ehrliche Evaluierung mit echten Nutzerfragen. Ohne diese Sorgfalt liefert auch das beste Sprachmodell souverän formulierte, aber falsch belegte Antworten. Die Qualitätsfrage lautet deshalb nie nur „Wie gut ist das Modell?“, sondern immer auch „Wie gut sind Suche, Daten und Zugriffskontrolle darunter?“.

Aktuelle Meldungen dazu: ai · ← zum Glossar