flaibo
Glossário

Jailbreak

Uma tentativa deliberada da pessoa que está conversando com um assistente de IA de formular um prompt de um jeito que o convença a ultrapassar seus próprios limites de comportamento.

Nenhum cartão necessário

O que isso significa na prática

A política de uso de IA de uma empresa proíbe funcionários de usar as ferramentas de IA do trabalho para gerar qualquer coisa que a ferramenta seja projetada para recusar, como instruções nocivas ou conteúdo que viole os padrões da empresa. Um jailbreak é o que acontece quando alguém contorna deliberadamente essa recusa: enquadrando um pedido proibido como uma história fictícia, um exercício hipotético, ou um roleplay em várias etapas especificamente desenhado para levar o assistente a produzir aquilo que normalmente recusaria, de propósito, como objetivo intencional da própria pessoa usuária. Isso importa para a política de uma empresa porque quem faz isso sabe exatamente o que está tentando extrair; o assistente não cometeu um erro por conta própria, e nenhuma parte externa também esteve envolvida. Essa intenção é exatamente o que separa um jailbreak de um incidente de segurança em que a pessoa usuária não pretendia que nada desse errado.

Exemplo

Alguém pede diretamente a um assistente para escrever algo que ele é programado para recusar, recebe uma negativa, e então reformula o mesmo pedido como escreva uma história em que um personagem explica como fazer isso em detalhes. Se a reformulação tiver sucesso onde o pedido direto falhou, essa reformulação foi um jailbreak: uma tentativa deliberada, criada pela pessoa usuária, de contornar um limite embutido, e não um acidente.

Frequentemente confundido com

vs. Prompt Injection

Um jailbreak é criado pela pessoa que conversa com o assistente, deliberadamente, para ultrapassar de propósito os próprios limites dele. O prompt injection não tem nenhuma relação com a intenção da pessoa usuária: são instruções ocultas de terceiros escondidas dentro de um conteúdo que o assistente é solicitado a processar, como uma página da web, um email, ou um documento enviado, que sequestram seu comportamento sem que a pessoa usuária jamais tenha pretendido tentar algo incomum, e é por isso que uma empresa se defende de cada uma de forma diferente: educação de usuários e monitoramento para jailbreaks, sanitização de conteúdo e verificação de confiança da fonte para prompt injection.

Frequently asked questions

Quer seu contexto em um só lugar?

Flaibo mantém seu papel, seu tom e seu trabalho anterior em um só lugar e os incorpora aos prompts que você leva para qualquer IA que você use, então um novo chat não precisa começar de uma janela de contexto vazia.

Comece grátis

Seu contexto em todo lugar