flaibo
Glossaire

Explainability

Le fait que le processus ayant réellement produit la réponse d'un modèle d'IA puisse être compris et vérifié, plutôt que simplement décrit après coup d'une manière qui sonne de façon plausible.

Aucune carte bancaire requise

Ce que ça signifie en pratique

Un manager demande à un assistant IA de montrer son raisonnement avant de recommander quel fournisseur choisir, et l'assistant expose une liste numérotée bien ordonnée des considérations ayant mené à son choix. Ce raisonnement énoncé se lit comme une explication transparente, suffisamment tentante pour être collée telle quelle dans une note de décision en guise de justification. Mais le texte qui s'explique lui-même est un langage généré séparément, produit après la réponse, et non un tirage du calcul interne réel du modèle. Il peut décrire un processus propre et logique qui sonne juste tout en ne correspondant pas à ce qui s'est réellement passé, si bien que le raisonnement affiché peut être faux ou incomplet même quand la recommandation finale se trouve être raisonnable.

Exemple

Demande à un assistant d'expliquer étape par étape pourquoi il a signalé une clause contractuelle comme risquée, et il énumère trois raisons dans un ordre logique et assuré. Repose-lui la même question avec une formulation légèrement différente, ou demande-lui de revérifier son propre raisonnement, et il peut produire trois raisons différentes, avec tout autant d'assurance. Si la logique énoncée change alors que la réponse sous-jacente ne change pas, c'est le signe que l'explication a été générée pour sonner de façon plausible plutôt que tirée d'un processus réel et fixe.

À ne pas confondre avec

vs. The AI's Stated Reasoning

Le raisonnement énoncé est un texte que le modèle produit pour décrire un processus, généré de la même manière que n'importe quelle autre réponse : mot par mot, dans le but de sonner cohérent et convaincant. L'explicabilité est la question distincte, plus difficile, de savoir si cette description correspond réellement à ce qui a produit la réponse, puisqu'un modèle peut générer après coup une explication soignée et assurée qui a peu à voir avec son processus interne réel, ce qui signifie qu'une décision d'entreprise justifiée uniquement en collant le raisonnement énoncé peut reposer sur un récit plausible plutôt que sur un compte-rendu vérifié.

Frequently asked questions

Envie d'avoir ton contexte au même endroit ?

Flaibo conserve ton rôle, ta tonalité et ton travail passé au même endroit, et les intègre dans les prompts que tu emportes vers l'IA que tu utilises, pour qu'une nouvelle discussion n'ait pas à repartir d'une fenêtre de contexte vide.

Commence gratuitement

Ton contexte partout