flaibo
Glossar

RAG (Retrieval-Augmented Generation)

Eine Technik, bei der ein KI-Modell relevante Informationen aus einer externen Quelle nachschlägt, bevor es antwortet, statt sich nur auf das zu verlassen, was es während des Trainings gelernt hat.

Keine Karte erforderlich

Was das in der Praxis bedeutet

Wenn du einen KI-Assistenten etwas zur internen Preispolitik deines Unternehmens fragst, kann ein Modell ohne Retrieval-Schritt nur raten oder zugeben, dass es das nicht weiß; es wurde von vornherein nie auf deine privaten Dokumente trainiert. Ein Modell, das mit Retrieval ausgestattet ist, durchsucht stattdessen zuerst deine tatsächlichen Richtliniendokumente, zieht die relevante Passage heraus und antwortet gestützt auf diese echte, aktuelle Quelle statt auf eine Vermutung, die zur Trainingszeit gebildet wurde, Monate oder Jahre bevor deine Richtlinie überhaupt existierte.

Beispiel

Frag: "Wie lautet unsere Rückerstattungsrichtlinie für Jahrespläne?" Ohne Retrieval lehnt ein allgemeiner Assistent entweder die Antwort ab oder erzeugt eine plausibel klingende, aber falsche Richtlinie aus allgemeinem Mustervergleich. Mit Retrieval, das an das tatsächliche Richtliniendokument angebunden ist, schlägt er zuerst den echten Absatz zur Rückerstattungsrichtlinie nach und antwortet direkt aus diesem Text, und kann ihn sogar präzise zitieren.

Häufig verwechselt mit

vs. Fine-tuning

Beide Ansätze sollen ein Modell mehr "wissen" lassen, als es standardmäßig gelernt hat, aber über sehr unterschiedliche Mechanismen. Fine-Tuning trainiert die internen Gewichte des Modells selbst dauerhaft mit neuen Beispielen um: ein langsamer und teurer Prozess, der in dem Moment statisch wird, in dem er abgeschlossen ist. Retrieval verändert am Modell selbst nichts; es schlägt im Moment der Frage aktuelle Informationen nach, weshalb es ein Dokument widerspiegeln kann, das vor fünf Minuten hinzugefügt wurde, während Fine-Tuning das nicht leisten kann, ohne alles von Neuem zu trainieren.

Verwandte Begriffe

Frequently asked questions

Willst du deinen Kontext an einem Ort?

Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.

Kostenlos starten

Dein Kontext, überall