Toxicity
Eine einzelne KI-Ausgabe, die für sich genommen schädlich, beleidigend oder unsicher ist, unabhängig davon, ob sich dasselbe schädliche Muster irgendwo sonst zeigt.
Keine Karte erforderlich
Was das in der Praxis bedeutet
Ein Unternehmen, das einen KI-Chatbot für seine Kundensupport-Website bewertet, muss wissen, dass er niemals eine einzelne Antwort erzeugt, die gegenüber einem Kunden beleidigend, anstößig oder unsicher ist, selbst bei einer ungewöhnlichen oder provozierenden Frage. Dieses Risiko ist Toxizität: Eine schlechte Ausgabe, die vor einem echten Kunden landet, ist bereits für sich genommen ein Markensicherheitsvorfall, unabhängig davon, ob das Tool anderswo eine breitere Verzerrung aufweist. Ein Team, das diese Bewertung durchführt, testet den Assistenten typischerweise per Red Teaming mit Grenzfall- und gegnerischen Prompts, die gezielt nach einer einzigen toxischen Antwort suchen, da selbst ein einziger Vorfall, per Screenshot festgehalten und geteilt, echten Reputationsschaden anrichten kann, lange bevor jemand genug Ausgaben gesammelt hat, um ein breiteres Muster zu bemerken.
Beispiel
Ein Kunde tippt eine aggressive, beleidigende Nachricht an den Support-Chatbot eines Unternehmens, um zu sehen, wie er reagiert. Antwortet der Assistent in gleicher Münze, mit etwas Feindseligem oder Beleidigendem zurück, ist dieser einzelne Austausch Toxizität, und es ist ein Markensicherheitsproblem in dem Moment, in dem es passiert, egal ob derselbe Chatbot jemals zuvor oder danach etwas Ähnliches getan hat.
Häufig verwechselt mit
vs. Bias
Verzerrung ist eine systematische Abweichung, die erst über viele Ausgaben hinweg sichtbar wird, wenn man Antworten zu verschiedenen Gruppen oder Themen nebeneinanderlegt, selbst wenn jede einzelne Antwort für sich genommen akzeptabel wirkt. Toxizität lebt vollständig in einer einzelnen Ausgabe: eine schädliche, beleidigende oder unsichere Antwort ist bereits das Problem, ohne dass man sie mit irgendetwas anderem vergleichen müsste. Ein Unternehmen kann eine toxische Antwort haben, ohne dass ein breiteres Verzerrungsmuster dahintersteckt, und es kann genauso gut ein Verzerrungsmuster haben, bei dem keine einzelne Antwort je toxisch genug war, um allein aufzufallen. Deshalb erfordert die Bewertung jedes Risikos eine andere Methode: viele Ausgaben gemeinsam auf Verzerrung prüfen, einzelne Antworten per Red Teaming auf Toxizität prüfen.
Verwandte Begriffe
Frequently asked questions
Willst du deinen Kontext an einem Ort?
Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.
Kostenlos starten