flaibo
Glossar

Bias

Eine wiederholbare Verzerrung in den Ausgaben eines KI-Modells, die bestimmte Gruppen, Branchen oder Sichtweisen durchgängig bevorzugt oder benachteiligt und sich über viele Antworten hinweg zeigt statt in einer einzelnen.

Keine Karte erforderlich

Was das in der Praxis bedeutet

Ein HR-Team nutzt einen KI-Assistenten, um Stellenbeschreibungen zu entwerfen oder Lebensläufe im großen Stil zu prüfen. Jede einzelne Beschreibung liest sich professionell und jede Auswahlentscheidung wirkt für sich genommen vertretbar, aber wenn jemand hundert Ausgaben zusammen prüft, zeigt sich ein Muster: Ausschreibungen für technische Rollen verwenden durchgängig durchsetzungsstärkere Sprache, die auf ein Geschlecht kodiert ist, oder Kandidaten von bestimmten Schulen oder mit bestimmtem Hintergrund werden günstiger formuliert als gleich qualifizierte andere. Keine einzelne Ausgabe war für sich genommen falsch oder anstößig genug, um aufzufallen, und genau das macht die Verzerrung schwerer zu erkennen als einen offensichtlichen Sachfehler: Sie lebt in der Summe, nicht in einem einzelnen Satz, und man muss viele Ausgaben nebeneinanderlegen, um sie überhaupt zu sehen.

Beispiel

Du bittest einen KI-Assistenten, fünfzig kurze Biografien zu schreiben, die Hälfte für Männer und die Hälfte für Frauen in derselben Berufsbezeichnung. Liest du sie einzeln, wirkt jede in Ordnung und professionell. Legst du sie jedoch nebeneinander, kann ein Muster auftauchen: Die Biografien der Männer stützen sich auf Wörter wie Experte und leitete, die der Frauen auf unterstützend und half. Genau dieses aggregierte Muster, nicht eine einzelne Biografie, zeigt, wie Verzerrung in der Praxis aussieht.

Häufig verwechselt mit

vs. Hallucination

Halluzination ist eine einzelne erfundene Behauptung innerhalb einer Antwort, etwa eine erfundene Statistik oder ein Zitat, das nicht existiert; du kannst sie erkennen, indem du diese eine Antwort mit der Realität abgleichst. Verzerrung ist ein Muster über viele Antworten hinweg, das selbst dann bestehen bleibt, wenn jeder einzelne Satz sachlich korrekt ist, sodass die Prüfung einer einzelnen Ausgabe auf Richtigkeit dir nichts darüber verrät; du erkennst sie nur, indem du Ausgaben über Gruppen, Branchen oder Sichtweisen hinweg vergleichst und die Schieflage bemerkst.

Frequently asked questions

Willst du deinen Kontext an einem Ort?

Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.

Kostenlos starten

Dein Kontext, überall