Retrieval Augmented Generation (RAG)
Retrieval Augmented Generation (RAG) ist ein Verfahren, bei dem ein KI-Sprachmodell vor dem Antworten passende Informationen aus einer eigenen Wissensquelle abruft — etwa aus Dokumenten, Handbüchern oder einer Datenbank — und seine Antwort darauf stützt.
Sprachmodelle kennen nur, was in ihren Trainingsdaten stand. Mit RAG beantworten sie Fragen auf Basis aktueller, unternehmensinterner Informationen — und können die Quelle nennen.
Das senkt das Risiko erfundener Antworten deutlich, beseitigt es aber nicht ganz. Die Qualität hängt stark davon ab, wie gut die Wissensquelle gepflegt und aufbereitet ist.
Für den Mittelstand eignet sich RAG etwa für interne Wissensassistenten, Kundenservice oder die Suche in Verträgen und Handbüchern — bei sensiblen Daten mit Betrieb in Deutschland und klaren Zugriffsrechten.
Worauf du achten solltest
- Die Wissensquellen auswählen und bereinigen: aktuelle, widerspruchsfreie Dokumente statt Dateiablage im Originalzustand.
- Zugriffsrechte übernehmen: Jeder Nutzer sollte nur Antworten aus Dokumenten erhalten, die er auch sehen darf.
- Antworten mit Quellenangabe ausgeben, damit sie nachprüfbar sind.
- Festlegen, wie neue oder geänderte Dokumente aufgenommen werden.
- Die Qualität mit typischen Fragen regelmäßig testen.
Typische Fehler
- Veraltete und aktuelle Fassungen desselben Dokuments liegen nebeneinander — die KI zitiert die falsche.
- Antworten ohne Quellenangabe, die niemand überprüfen kann.
- Vertrauliche Dokumente werden für alle Mitarbeitenden durchsuchbar.
Häufige Fragen
Es senkt das Risiko deutlich, weil die Antworten auf konkreten Dokumenten beruhen, beseitigt es aber nicht vollständig. Quellenangaben und Stichproben bleiben wichtig.
Nein. Bei RAG wird ein bestehendes Sprachmodell genutzt und mit den eigenen Dokumenten verbunden — ein eigenes Training ist dafür nicht nötig.
Mehr dazu im Fachartikel: KI im Mittelstand: 7 Anwendungen, die heute schon Geld sparen