flaibo
Glossar

Guardrails

Die Regeln, Anweisungen und Berechtigungen, die um ein KI-System herum aufgebaut sind und festlegen, was es tun darf, und sein Verhalten vor und während einer Antwort formen, nicht nur danach.

Keine Karte erforderlich

Was das in der Praxis bedeutet

Ein Unternehmen, das einen KI-Assistenten für sein Vertriebsteam einführt, will nicht nur einen Filter, der schlechte Wörter löscht, nachdem sie aufgetaucht sind. Es will Guardrails: Anweisungen, die den Assistenten davon abhalten, jemals nicht genehmigte Rabatte anzubieten, Berechtigungen, die ihm den Zugriff auf Zahlungsdaten von Kunden verwehren, selbst wenn danach gefragt wird, und Themengrenzen, die eine Frage nach den vertraulichen Preisen eines Konkurrenten zu einer genehmigten Antwort umleiten, alles fest eingebaut in die Art, wie der Assistent ab dem ersten Wort seiner Antwort agiert. Gut geschrieben ist eine interne KI-Nutzungsrichtlinie eigentlich ein Guardrails-Dokument: Sie legt im Voraus fest, was der Assistent tun darf und was nicht, statt zu hoffen, dass ein Aufräumschritt die Fehler im Nachhinein abfängt.

Beispiel

Ein Kunde bittet den KI-Assistenten eines Unternehmens, den beworbenen Preis eines Konkurrenten zu erreichen. Ein reiner Inhaltsfilter würde den Assistenten den Rabatt anbieten lassen und die Antwort danach nur auf verbotene Wörter scannen, wodurch das Problem völlig übersehen wird, da nichts in dem Satz anstößig ist. Ein in das System eingebautes Guardrail hindert den Assistenten stattdessen von vornherein daran, einen Rabatt außerhalb genehmigter Bereiche vorzuschlagen, und leitet stattdessen zu lass mich dich mit einem Vertriebsmitarbeiter verbinden um, noch bevor dieser Satz überhaupt erzeugt wird.

Häufig verwechselt mit

vs. Content Filter

Ein Inhaltsfilter ist reaktiv: Er scannt eine Ausgabe, nachdem das Modell sie bereits erzeugt hat, und blockiert oder markiert, was nicht durchgelassen werden soll, und fängt dabei Dinge wie Obszönitäten oder eindeutig unsichere Texte auf dem Weg hinaus ab. Guardrails sind umfassender und größtenteils proaktiv: Es sind Regeln, Berechtigungen und Anweisungen, die von vornherein formen, was das System überhaupt versucht, etwa welche Aktionen es ausführen darf oder welche Themen es ablehnen soll, bevor irgendetwas erzeugt wird, sodass ein gut gebautes Guardrail ein Problem verhindern kann, das ein Inhaltsfilter erst abfangen würde, nachdem der Schaden der Erzeugung bereits entstanden ist.

Frequently asked questions

Willst du deinen Kontext an einem Ort?

Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.

Kostenlos starten

Dein Kontext, überall