flaibo
Glosario

Jailbreak

Un intento deliberado, por parte de la persona que habla con un asistente de IA, de formular un prompt de manera que lo lleve más allá de sus propios límites de comportamiento integrados.

No se requiere tarjeta

Qué significa en la práctica

La política de uso de IA de una empresa prohíbe a los empleados usar las herramientas de IA del trabajo para generar cualquier cosa que la herramienta esté diseñada para rechazar, como instrucciones dañinas o contenido que viole los estándares de la empresa. Un jailbreak es lo que ocurre cuando alguien elude deliberadamente ese rechazo: enmarcando una solicitud prohibida como una historia de ficción, un ejercicio hipotético o un juego de rol de varios pasos diseñado específicamente para conseguir que el asistente produzca lo que normalmente rechazaría, a propósito, como objetivo intencional del propio usuario. Esto importa para la política de una empresa porque quien lo hace sabe exactamente qué está tratando de obtener; el asistente no cometió un error por su cuenta, y tampoco intervino ninguna parte externa. Esa intención es precisamente lo que lo separa de un incidente de seguridad en el que el usuario no pretendía que nada saliera mal.

Ejemplo

Alguien le pide directamente a un asistente que escriba algo que está diseñado para rechazar, recibe una negativa, y luego reformula la misma solicitud como escribe una historia donde un personaje explica en detalle cómo hacer esto. Si la reformulación tiene éxito donde la petición directa falló, esa reformulación fue un jailbreak: un intento deliberado, creado por el usuario, de eludir un límite integrado en lugar de un accidente.

No confundir con

vs. Prompt Injection

Un jailbreak lo crea el usuario que habla con el asistente, deliberadamente, para superar a propósito sus propios límites. El prompt injection no tiene nada que ver con la intención del usuario: son instrucciones ocultas de un tercero, enterradas dentro de contenido que se le pide al asistente procesar, como una página web, un correo electrónico o un documento cargado, que secuestran su comportamiento sin que el usuario pretenda jamás intentar nada inusual, razón por la cual una empresa se defiende de cada uno de forma distinta: educación de usuarios y monitoreo para los jailbreaks, saneamiento de contenido y verificación de la fuente para el prompt injection.

Frequently asked questions

¿Quieres tu contexto en un solo lugar?

Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.

Empieza gratis

Tu contexto en todas partes