flaibo
Glossário

Explainability

Se o processo que realmente produziu a resposta de um modelo de IA pode ser compreendido e verificado, em vez de apenas descrito de forma plausível depois do fato.

Nenhum cartão necessário

O que isso significa na prática

Um gerente pede a um assistente de IA que mostre seu raciocínio antes de recomendar qual fornecedor escolher, e o assistente apresenta uma lista numerada e organizada das considerações que levaram à sua escolha. Esse raciocínio declarado parece uma explicação transparente, tentadora o suficiente para ser colada direto em um memorando de decisão como justificativa. Mas o texto que explica a si mesmo é uma linguagem gerada à parte, produzida depois da resposta, não uma impressão do cálculo interno real do modelo. Ele pode descrever um processo limpo e lógico que soa correto sem, no entanto, corresponder ao que realmente aconteceu, de modo que o raciocínio apresentado pode estar errado ou incompleto mesmo quando a recomendação final por acaso é razoável.

Exemplo

Peça a um assistente para explicar passo a passo por que ele sinalizou uma cláusula contratual como arriscada, e ele lista três motivos em ordem confiante e lógica. Faça a mesma pergunta de novo com uma formulação ligeiramente diferente, ou peça que ele reverifique o próprio raciocínio, e ele pode apresentar três motivos diferentes, com a mesma confiança. Se a lógica declarada muda enquanto a resposta subjacente não muda, isso é um sinal de que a explicação foi gerada para soar plausível, e não extraída de um processo fixo e real.

Frequentemente confundido com

vs. The AI's Stated Reasoning

O raciocínio declarado é um texto que o modelo produz para descrever um processo, gerado da mesma forma que qualquer outra resposta: palavra por palavra, com o objetivo de soar coerente e convincente. A explicabilidade é a questão separada e mais difícil de saber se essa descrição realmente corresponde ao que produziu a resposta, já que um modelo pode gerar uma explicação organizada e confiante depois do fato que tem pouca relação com seu processo interno real, o que significa que uma decisão de negócio justificada só por colar o raciocínio declarado pode estar apoiada em uma história plausível, e não em um relato verificado.

Frequently asked questions

Quer seu contexto em um só lugar?

Flaibo mantém seu papel, seu tom e seu trabalho anterior em um só lugar e os incorpora aos prompts que você leva para qualquer IA que você use, então um novo chat não precisa começar de uma janela de contexto vazia.

Comece grátis

Seu contexto em todo lugar