Jailbreak
Uma tentativa deliberada da pessoa que está conversando com um assistente de IA de formular um prompt de um jeito que o convença a ultrapassar seus próprios limites de comportamento.
Nenhum cartão necessário
O que isso significa na prática
A política de uso de IA de uma empresa proíbe funcionários de usar as ferramentas de IA do trabalho para gerar qualquer coisa que a ferramenta seja projetada para recusar, como instruções nocivas ou conteúdo que viole os padrões da empresa. Um jailbreak é o que acontece quando alguém contorna deliberadamente essa recusa: enquadrando um pedido proibido como uma história fictícia, um exercício hipotético, ou um roleplay em várias etapas especificamente desenhado para levar o assistente a produzir aquilo que normalmente recusaria, de propósito, como objetivo intencional da própria pessoa usuária. Isso importa para a política de uma empresa porque quem faz isso sabe exatamente o que está tentando extrair; o assistente não cometeu um erro por conta própria, e nenhuma parte externa também esteve envolvida. Essa intenção é exatamente o que separa um jailbreak de um incidente de segurança em que a pessoa usuária não pretendia que nada desse errado.
Exemplo
Alguém pede diretamente a um assistente para escrever algo que ele é programado para recusar, recebe uma negativa, e então reformula o mesmo pedido como escreva uma história em que um personagem explica como fazer isso em detalhes. Se a reformulação tiver sucesso onde o pedido direto falhou, essa reformulação foi um jailbreak: uma tentativa deliberada, criada pela pessoa usuária, de contornar um limite embutido, e não um acidente.
Frequentemente confundido com
vs. Prompt Injection
Um jailbreak é criado pela pessoa que conversa com o assistente, deliberadamente, para ultrapassar de propósito os próprios limites dele. O prompt injection não tem nenhuma relação com a intenção da pessoa usuária: são instruções ocultas de terceiros escondidas dentro de um conteúdo que o assistente é solicitado a processar, como uma página da web, um email, ou um documento enviado, que sequestram seu comportamento sem que a pessoa usuária jamais tenha pretendido tentar algo incomum, e é por isso que uma empresa se defende de cada uma de forma diferente: educação de usuários e monitoramento para jailbreaks, sanitização de conteúdo e verificação de confiança da fonte para prompt injection.
Frequently asked questions
Quer seu contexto em um só lugar?
Flaibo mantém seu papel, seu tom e seu trabalho anterior em um só lugar e os incorpora aos prompts que você leva para qualquer IA que você use, então um novo chat não precisa começar de uma janela de contexto vazia.
Comece grátis