flaibo
Glossar

Explainability

Ob sich der Prozess, der die Antwort eines KI-Modells tatsächlich hervorgebracht hat, verstehen und überprüfen lässt, statt im Nachhinein nur plausibel klingend beschrieben zu werden.

Keine Karte erforderlich

Was das in der Praxis bedeutet

Eine Führungskraft bittet einen KI-Assistenten, seine Überlegungen zu zeigen, bevor er empfiehlt, welcher Anbieter gewählt werden soll, und der Assistent legt eine ordentliche, nummerierte Liste von Erwägungen dar, die zu seiner Wahl geführt haben. Diese angegebene Begründung liest sich wie eine transparente Erklärung, verlockend genug, um sie direkt als Rechtfertigung in ein Entscheidungsmemo einzufügen. Aber der erklärende Text ist eigenständig erzeugte Sprache, produziert nach der Antwort, kein Ausdruck der tatsächlichen internen Berechnung des Modells. Er kann einen sauberen, logischen Prozess beschreiben, der richtig klingt, ohne dabei dem tatsächlichen Ablauf zu entsprechen, sodass die gezeigte Begründung falsch oder unvollständig sein kann, selbst wenn die endgültige Empfehlung zufällig vernünftig ist.

Beispiel

Du bittest einen Assistenten, Schritt für Schritt zu erklären, warum er eine Vertragsklausel als riskant eingestuft hat, und er nennt drei Gründe in selbstbewusster, logischer Reihenfolge. Stellst du dieselbe Frage erneut mit leicht anderer Formulierung oder bittest ihn, seine eigene Begründung noch einmal zu prüfen, kann er drei andere Gründe liefern, genauso selbstbewusst. Wenn sich die angegebene Logik ändert, während die zugrunde liegende Antwort gleich bleibt, ist das ein Zeichen dafür, dass die Erklärung erzeugt wurde, um plausibel zu klingen, statt aus einem festen, realen Prozess zu stammen.

Häufig verwechselt mit

vs. The AI's Stated Reasoning

Die angegebene Begründung ist Text, den das Modell erzeugt, um einen Prozess zu beschreiben, erzeugt auf dieselbe Weise wie jede andere Antwort: Wort für Wort, darauf ausgelegt, kohärent und überzeugend zu klingen. Erklärbarkeit ist die separate, schwierigere Frage, ob diese Beschreibung tatsächlich dem entspricht, was die Antwort hervorgebracht hat, denn ein Modell kann im Nachhinein eine ordentliche, selbstbewusste Erklärung erzeugen, die wenig mit seinem tatsächlichen internen Prozess zu tun hat, was bedeutet, dass eine Geschäftsentscheidung, die nur mit der angegebenen Begründung gerechtfertigt wird, auf einer plausiblen Geschichte statt auf einem überprüften Sachverhalt beruhen kann.

Frequently asked questions

Willst du deinen Kontext an einem Ort?

Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.

Kostenlos starten

Dein Kontext, überall