Hallucination
Quando un modello AI afferma qualcosa di falso con lo stesso tono sicuro e fluente che userebbe per qualcosa di vero: non è un malfunzionamento, ma il modello che fa esattamente ciò che fa di default, senza un fatto reale a sostenere quella specifica affermazione.
Nessuna carta richiesta
Cosa significa in pratica
Un assistente AI a cui viene chiesto di citare una fonte per un'affermazione a volte produce una citazione che sembra del tutto legittima (un autore, un titolo e un anno di pubblicazione dal suono plausibile) che semplicemente non esiste da nessuna parte. Non sta mentendo nel senso umano del termine, e non è nemmeno un bug del software; sta generando la continuazione statisticamente più plausibile del testo che gli è stato chiesto di produrre, e una citazione inventata può suonare fluente e sicura esattamente quanto una autentica.
Esempio
Chiedi a un assistente generico il numero esatto di una clausola in un contratto specifico che in realtà non ha mai visto, e potrebbe risponderti "Sezione 4.2" con totale sicurezza: un numero dal suono plausibile ma senza alcun documento reale dietro. Fai la stessa domanda fornendo il contratto vero come contesto, o recuperandolo per lui, e la risposta arriverà dal testo effettivo oppure il modello dirà di non riuscire a trovarlo. La differenza sta nell'esistenza di un fondamento reale sotto il tono sicuro, non nel fatto che il tono stesso suoni sicuro.
Spesso confuso con
vs. A factual error / a bug
Un errore fattuale implica che il sistema avesse un fatto reale e lo abbia sbagliato; un bug implica del codice rotto da qualche parte. Un'allucinazione non è né l'uno né l'altro: è il modello che funziona esattamente come progettato, prevedendo le parole successive più plausibili, senza una fonte reale a sostegno di quella specifica affermazione. Per questo più addestramento o una patch software non la risolvono in modo affidabile da soli; la vera soluzione è fornire al modello un contesto reale e aggiornato su cui basare la risposta, non sperare che questa volta ricordi correttamente per caso.
Termini correlati
Frequently asked questions
Vuoi il tuo contesto in un unico posto?
Flaibo conserva il tuo ruolo, il tuo tono e il tuo lavoro passato in un unico posto, e li inserisce nei prompt che porti in qualsiasi AI tu usi, così una nuova chat non deve ripartire da una finestra di contesto vuota.
Inizia gratis