Hallucination
Quand un modèle d'IA affirme quelque chose de faux avec le même ton assuré et fluide que pour quelque chose de vrai : ce n'est pas un bug, c'est le modèle qui fait exactement ce qu'il fait par défaut, sans qu'il y ait de fait réel derrière cette affirmation précise.
Aucune carte bancaire requise
Ce que ça signifie en pratique
Un assistant IA à qui on demande de citer une source pour une affirmation produit parfois une citation qui a l'air tout à fait légitime (un auteur, un titre et une année de publication qui sonnent vrai) mais qui n'existe tout simplement nulle part. Ce n'est pas mentir au sens humain, et ce n'est pas non plus un bug logiciel ; il génère la continuation la plus statistiquement plausible du texte qu'on lui a demandé de produire, et une citation inventée peut sonner tout aussi fluide et assurée qu'une vraie.
Exemple
Demande à un assistant généraliste le numéro exact d'une clause dans un contrat précis qu'il n'a en réalité jamais vu, et il peut répondre "Section 4.2" avec une assurance totale : un numéro qui sonne plausible, sans aucun document réel derrière. Pose la même question en fournissant le vrai contrat en contexte, ou en le lui faisant récupérer, et la réponse provient soit du texte réel, soit le modèle indique qu'il ne le trouve pas. La différence tient à la présence ou non d'un ancrage réel sous le ton assuré, pas au fait que le ton lui-même paraisse sûr.
À ne pas confondre avec
vs. A factual error / a bug
Une erreur factuelle suppose que le système disposait d'un vrai fait et s'est trompé ; un bug suppose du code défaillant quelque part. Une hallucination n'est ni l'un ni l'autre : c'est le modèle qui fonctionne exactement comme conçu, en prédisant les mots suivants les plus plausibles, sans source réelle derrière cette affirmation précise. C'est pourquoi davantage d'entraînement ou un correctif logiciel ne suffit pas à la résoudre de façon fiable ; la vraie solution consiste à fournir au modèle un contexte réel et à jour sur lequel ancrer sa réponse, plutôt que d'espérer qu'il se souvienne correctement la prochaine fois.
Termes associés
Frequently asked questions
Envie d'avoir ton contexte au même endroit ?
Flaibo conserve ton rôle, ta tonalité et ton travail passé au même endroit, et les intègre dans les prompts que tu emportes vers l'IA que tu utilises, pour qu'une nouvelle discussion n'ait pas à repartir d'une fenêtre de contexte vide.
Commence gratuitement