Non-determinism (Output Variability)
Eine eingebaute Eigenschaft von KI-Modellen, bei der derselbe Prompt bei jedem Durchlauf eine anders formulierte oder sogar zu einem anderen Schluss kommende Antwort erzeugen kann.
Keine Karte erforderlich
Was das in der Praxis bedeutet
Ein Compliance-Beauftragter lässt exakt denselben Prompt zweimal durch einen KI-Assistenten laufen, um eine Vertragsklausel gegen dieselbe Richtlinie zu prüfen, und erhält zwei Antworten, die nicht wortwörtlich identisch sind, gelegentlich sogar mit einem anderen Ergebnis bei einem Grenzfall. Der Instinkt ist anzunehmen, dass etwas kaputt ist, da ein Taschenrechner oder eine Datenbankabfrage sich niemals so verhält. Aber das ist kein Bug, den man melden sollte; so funktioniert das Modell von Natur aus. Bei jedem Schritt wählt es einigermaßen zufällig unter mehreren plausiblen nächsten Wörtern aus, statt immer eine feste Ausgabe zurückzugeben, sodass leicht unterschiedliche Formulierungen und gelegentlich eine andere Einschätzung erwartetes Verhalten sind. Für eine Aufgabe, die jedes Mal eine wiederholbare Antwort braucht, besteht die Lösung darin, die Zufälligkeitseinstellung zu senken oder einen Verifizierungsschritt hinzuzufügen, nicht darauf zu warten, dass ein Update das behebt.
Beispiel
Du lässt denselben Compliance-Prompt dreimal hintereinander gegen dasselbe Dokument laufen. Der erste Durchlauf markiert eine Klausel als konform, der zweite markiert dieselbe Klausel als grenzwertig, und der dritte markiert sie wieder als konform, jedes Mal mit leicht anderer Formulierung. Nichts ist abgestürzt und kein Fehler ist aufgetreten: Diese Variation ist das Modell, das unter plausiblen Antworten auswählt, kein Defekt, und den Durchlauf erneut zu wiederholen würde weiterhin ähnliche, aber nicht identische Ergebnisse liefern, unbegrenzt.
Häufig verwechselt mit
vs. A Software Bug
Ein Bug ist ein unbeabsichtigter Defekt: etwas, das die Entwickler nicht beabsichtigt haben und nach dem Auffinden beheben würden, und dieselbe Eingabe durch festen Code laufen zu lassen sollte ihn zuverlässig jedes Mal reproduzieren. Nichtdeterminismus ist beabsichtigt und eingebaut: Es ist zu erwarten, dass derselbe Prompt, viele Male ausgeführt, anders formuliert oder sogar mit einem anderen Schluss zurückkommt, weil das Modell unter plausiblen nächsten Wörtern auswählt, statt eine feste Berechnung auszuführen, sodass es hier nichts zu beheben gibt; der Weg zu einem wiederholbaren Ergebnis ist, die Zufälligkeitseinstellung zu senken oder einen separaten Verifizierungsschritt hinzuzufügen, nicht einen Bug-Report einzureichen.
Verwandte Begriffe
Frequently asked questions
Willst du deinen Kontext an einem Ort?
Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.
Kostenlos starten