Hallucination
Quando um modelo de IA afirma algo falso com o mesmo tom confiante e fluente que usa para algo verdadeiro: não é uma falha, mas o modelo fazendo exatamente o que faz por padrão, sem um fato real por trás daquela afirmação específica.
Nenhum cartão necessário
O que isso significa na prática
Um assistente de IA solicitado a citar uma fonte para uma afirmação às vezes produz uma citação que parece totalmente legítima (um autor, título e ano de publicação que soam reais) e que simplesmente não existe em lugar nenhum. Não é mentira no sentido humano, e também não é uma falha de software; é o modelo gerando a continuação estatisticamente mais plausível do texto que foi solicitado a produzir, e uma citação fabricada pode soar tão fluente e confiante quanto uma genuína.
Exemplo
Peça a um assistente genérico o número exato de uma cláusula em um contrato específico que ele nunca viu de verdade, e ele pode responder "Seção 4.2" com total confiança: um número que soa plausível, mas sem nenhum documento real por trás. Faça a mesma pergunta fornecendo o contrato real como contexto, ou buscado para ele, e a resposta vem do texto real ou o modelo diz que não consegue encontrá-la. A diferença está em se existe um embasamento real por trás do tom confiante, não em se o próprio tom soa seguro.
Frequentemente confundido com
vs. A factual error / a bug
Um erro factual sugere que o sistema tinha um fato real e o errou; um bug sugere código quebrado em algum lugar. Uma alucinação não é nenhuma dessas coisas: é o modelo funcionando exatamente como foi projetado, prevendo as palavras seguintes mais plausíveis, sem uma fonte real por trás daquela afirmação específica. É por isso que mais treinamento ou uma correção de software não resolve o problema de forma confiável sozinho; a solução real é dar ao modelo um contexto real e atual em que basear a resposta, em vez de simplesmente torcer para que ele se lembre corretamente da próxima vez.
Termos relacionados
Frequently asked questions
Quer seu contexto em um só lugar?
Flaibo mantém seu papel, seu tom e seu trabalho anterior em um só lugar e os incorpora aos prompts que você leva para qualquer IA que você use, então um novo chat não precisa começar de uma janela de contexto vazia.
Comece grátis