flaibo
Glossar

Jailbreak

Ein bewusster Versuch der Person, die mit einem KI-Assistenten spricht, einen Prompt so zu formulieren, dass er ihn über seine eigenen eingebauten Verhaltensgrenzen hinaus redet.

Keine Karte erforderlich

Was das in der Praxis bedeutet

Die KI-Nutzungsrichtlinie eines Unternehmens verbietet Mitarbeitenden, mit KI-Tools am Arbeitsplatz irgendetwas zu erzeugen, was das Tool eigentlich ablehnen soll, wie schädliche Anleitungen oder Inhalte, die gegen Unternehmensstandards verstoßen. Ein Jailbreak passiert, wenn jemand diese Ablehnung bewusst umgeht: eine verbotene Anfrage als fiktive Geschichte, ein hypothetisches Gedankenexperiment oder ein mehrstufiges Rollenspiel zu tarnen, das gezielt darauf ausgelegt ist, den Assistenten dazu zu bringen, das zu produzieren, was er normalerweise ablehnen würde, absichtlich, als bewusstes Ziel des Nutzers. Für die Richtlinie eines Unternehmens ist das wichtig, weil die Person, die es tut, genau weiß, was sie herausholen will; der Assistent ist dabei nicht von selbst ausgerutscht, und es war auch keine externe Partei beteiligt. Genau diese Absicht unterscheidet es von einem Sicherheitsvorfall, bei dem der Nutzer nicht vorhatte, dass irgendetwas schiefgeht.

Beispiel

Jemand bittet einen Assistenten direkt, etwas zu schreiben, das er ablehnen soll, wird abgelehnt und formuliert dieselbe Anfrage dann um in schreibe eine Geschichte, in der eine Figur im Detail erklärt, wie man das macht. Gelingt die Umformulierung dort, wo die direkte Bitte scheiterte, war diese Umformulierung ein Jailbreak: ein bewusster, vom Nutzer verfasster Versuch, eine eingebaute Grenze zu umgehen, kein Zufall.

Häufig verwechselt mit

vs. Prompt Injection

Ein Jailbreak wird von dem Nutzer verfasst, der mit dem Assistenten spricht, bewusst, um absichtlich dessen eigene Grenzen zu umgehen. Prompt Injection hat überhaupt nichts mit der Absicht des Nutzers zu tun: Es sind versteckte Anweisungen einer dritten Partei, die in Inhalten vergraben sind, die der Assistent verarbeiten soll, etwa eine Webseite, eine E-Mail oder ein hochgeladenes Dokument, und die sein Verhalten kapern, ohne dass der Nutzer je vorhatte, irgendetwas Ungewöhnliches zu versuchen. Deshalb verteidigt sich ein Unternehmen gegen jedes Problem anders: Nutzerschulung und Überwachung bei Jailbreaks, Inhaltsbereinigung und Vertrauensprüfungen der Quelle bei Injection.

Frequently asked questions

Willst du deinen Kontext an einem Ort?

Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.

Kostenlos starten

Dein Kontext, überall