Bias
Um viés repetível nas respostas de um modelo de IA que favorece ou prejudica sistematicamente determinados grupos, setores ou pontos de vista, aparecendo em muitas respostas, não em uma única.
Nenhum cartão necessário
O que isso significa na prática
Uma equipe de RH usa um assistente de IA para redigir descrições de vagas ou triar currículos em grande escala. Cada descrição, isoladamente, parece profissional, e cada decisão de triagem parece defensável por si só, mas quando alguém audita cem respostas juntas, um padrão surge: anúncios para cargos técnicos usam sistematicamente uma linguagem mais assertiva associada a um gênero, ou candidatos de determinadas escolas ou origens são descritos de forma mais favorável do que outros igualmente qualificados. Nenhuma resposta isolada era errada ou ofensiva o suficiente para ser sinalizada sozinha, e é exatamente isso que torna o viés mais difícil de perceber do que um erro factual óbvio: ele vive no agregado, não em uma única frase, e é preciso comparar muitas respostas lado a lado para enxergá-lo.
Exemplo
Peça a um assistente de IA para escrever cinquenta biografias curtas, metade para homens e metade para mulheres no mesmo cargo. Leia cada uma individualmente e todas parecem boas e profissionais. Coloque-as lado a lado, porém, e um padrão pode aparecer: as biografias dos homens recorrem a palavras como especialista e liderou, as das mulheres a palavras como solícita e ajudou. Esse padrão agregado, não uma biografia isolada, é como o viés se manifesta na prática.
Frequentemente confundido com
vs. Hallucination
A alucinação é uma única afirmação fabricada dentro de uma resposta, como uma estatística inventada ou uma citação que não existe; você identifica isso checando essa resposta específica contra a realidade. O viés é um padrão que se repete em muitas respostas e persiste mesmo quando cada frase individual é factualmente verdadeira, então checar a exatidão de uma única resposta não revela nada sobre ele; você só o percebe comparando respostas entre grupos, setores ou pontos de vista e notando a distorção.
Termos relacionados
Frequently asked questions
Quer seu contexto em um só lugar?
Flaibo mantém seu papel, seu tom e seu trabalho anterior em um só lugar e os incorpora aos prompts que você leva para qualquer IA que você use, então um novo chat não precisa começar de uma janela de contexto vazia.
Comece grátis