flaibo
Glossario

Bias

Uno scarto ripetibile negli output di un modello AI che favorisce o svantaggia sistematicamente certi gruppi, settori o punti di vista, visibile su molte risposte insieme piuttosto che in una singola.

Nessuna carta richiesta

Cosa significa in pratica

Un team HR usa un assistente AI per scrivere descrizioni di lavoro o selezionare curriculum su larga scala. Ogni singola descrizione sembra professionale e ogni decisione di selezione appare difendibile presa da sola, ma quando qualcuno controlla cento output insieme, emerge uno schema: gli annunci per ruoli tecnici usano costantemente un linguaggio più assertivo codificato verso un genere, oppure i candidati provenienti da certe scuole o contesti vengono descritti in modo più favorevole rispetto a candidati ugualmente qualificati. Nessun singolo output era abbastanza sbagliato o offensivo da segnalare isolatamente, ed è esattamente questo che rende il bias più difficile da individuare di un errore fattuale evidente: vive nell'aggregato, non in una singola frase, e serve confrontare molti output fianco a fianco per vederlo.

Esempio

Chiedi a un assistente AI di scrivere cinquanta brevi biografie, metà per uomini e metà per donne con lo stesso titolo professionale. Leggile una per una e sembrano tutte corrette e professionali. Mettile a confronto fianco a fianco, però, e può emergere uno schema: le biografie degli uomini si appoggiano a parole come "esperto" e "ha guidato", quelle delle donne su "di supporto" e "ha aiutato". Quello schema aggregato, non una singola biografia, è ciò che il bias significa nella pratica.

Spesso confuso con

vs. Hallucination

L'allucinazione è un'unica affermazione inventata dentro una singola risposta, come una statistica inventata o una citazione inesistente; la puoi individuare verificando quella singola risposta contro la realtà. Il bias è uno schema che attraversa molte risposte e persiste anche quando ogni singola frase è fattualmente vera, quindi controllare l'accuratezza di un solo output non ti dice nulla al riguardo; lo vedi solo confrontando output tra gruppi, settori o punti di vista e notando lo scarto.

Frequently asked questions

Vuoi il tuo contesto in un unico posto?

Flaibo conserva il tuo ruolo, il tuo tono e il tuo lavoro passato in un unico posto, e li inserisce nei prompt che porti in qualsiasi AI tu usi, così una nuova chat non deve ripartire da una finestra di contesto vuota.

Inizia gratis

Il tuo contesto, ovunque