flaibo
Glossar

Hallucination

Wenn ein KI-Modell etwas Falsches mit demselben selbstbewussten, flüssigen Ton äußert, den es auch für etwas Wahres verwendet: kein Ausrutscher, sondern das Modell, das genau das tut, was es standardmäßig tut, ohne dass eine echte Tatsache hinter dieser bestimmten Behauptung steckt.

Keine Karte erforderlich

Was das in der Praxis bedeutet

Ein KI-Assistent, der gebeten wird, eine Quelle für eine Behauptung zu zitieren, erzeugt manchmal ein Zitat, das völlig legitim aussieht (ein echt klingender Autor, Titel und Erscheinungsjahr), das schlicht nirgendwo existiert. Das ist kein Lügen im menschlichen Sinn, und es ist auch kein Softwarefehler; das Modell erzeugt die statistisch plausibelste Fortsetzung des Textes, um den es gebeten wurde, und ein erfundenes Zitat kann genauso flüssig und selbstbewusst klingen wie ein echtes.

Beispiel

Frag einen Allzweck-Assistenten nach der genauen Klauselnummer in einem bestimmten Vertrag, den er tatsächlich nie gesehen hat, und er antwortet vielleicht mit völliger Zuversicht "Abschnitt 4.2": eine plausibel klingende Nummer ohne echtes Dokument dahinter. Stell dieselbe Frage, wobei der echte Vertrag als Kontext mitgeliefert oder für ihn abgerufen wird, und die Antwort stammt entweder aus dem tatsächlichen Text, oder das Modell sagt, dass es ihn nicht finden kann. Der Unterschied liegt darin, ob unter dem selbstbewussten Ton eine echte Grundlage steckt, nicht darin, ob der Ton selbst sicher klingt.

Häufig verwechselt mit

vs. A factual error / a bug

Ein Sachfehler impliziert, dass das System eine echte Tatsache hatte und sie falsch wiedergegeben hat; ein Bug impliziert irgendwo fehlerhaften Code. Eine Halluzination ist keines von beiden: Das Modell arbeitet exakt so, wie es konzipiert wurde, es sagt die plausibelsten nächsten Wörter voraus, ohne dass eine echte Quelle hinter dieser bestimmten Behauptung steckt. Deshalb behebt mehr Training oder ein Software-Patch das Problem nicht zuverlässig von allein; die eigentliche Lösung besteht darin, dem Modell echten, aktuellen Kontext zu geben, auf dem es seine Antwort gründen kann, statt einfach zu hoffen, dass es sich beim nächsten Mal zufällig richtig erinnert.

Frequently asked questions

Willst du deinen Kontext an einem Ort?

Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.

Kostenlos starten

Dein Kontext, überall