flaibo
Glossaire

Non-determinism (Output Variability)

Une propriété intrinsèque des modèles d'IA selon laquelle le même prompt peut produire une réponse formulée différemment, voire aboutissant à une conclusion différente, à chaque exécution.

Aucune carte bancaire requise

Ce que ça signifie en pratique

Un responsable conformité fait passer exactement le même prompt deux fois dans un assistant IA, en vérifiant une clause contractuelle par rapport à la même politique, et obtient deux réponses qui ne sont pas identiques mot pour mot, parfois même avec une conclusion différente sur un cas limite. Le réflexe est de penser que quelque chose est cassé, puisqu'une calculatrice ou une requête de base de données ne se comporte jamais ainsi. Mais ce n'est pas un bug à signaler ; c'est ainsi que le modèle fonctionne, par conception. À chaque étape, il sélectionne de façon quelque peu aléatoire parmi plusieurs mots suivants plausibles plutôt que de toujours renvoyer une seule sortie fixe, si bien qu'une formulation légèrement différente, et parfois un jugement différent, est un comportement attendu. Pour une tâche qui a besoin d'une réponse reproductible à chaque fois, la solution consiste à baisser le réglage d'aléatoire ou à ajouter une étape de vérification, pas à attendre une mise à jour qui corrigerait cela.

Exemple

Exécute le même prompt de conformité sur le même document trois fois de suite. La première exécution signale une clause comme conforme, la deuxième signale la même clause comme limite, et la troisième la signale à nouveau conforme, avec une formulation légèrement différente à chaque fois. Rien n'a planté et aucune erreur n'est apparue : cette variation, c'est le modèle qui échantillonne parmi des réponses plausibles, pas un défaut, et répéter l'exécution encore et encore continuerait à produire des résultats similaires mais non identiques, indéfiniment.

À ne pas confondre avec

vs. A Software Bug

Un bug est un défaut involontaire : quelque chose que les développeurs n'avaient pas l'intention de voir se produire et qu'ils corrigeraient une fois découvert, et faire passer la même entrée dans un code fixe devrait le reproduire de façon fiable à chaque fois. Le non-déterminisme est intentionnel et intégré au fonctionnement : on s'attend à ce que le même prompt, exécuté plusieurs fois, revienne formulé différemment, voire avec une conclusion différente, parce que le modèle échantillonne parmi des mots suivants plausibles plutôt que d'exécuter un calcul fixe unique, donc il n'y a rien à corriger ici ; la façon d'obtenir un résultat reproductible est de baisser le réglage d'aléatoire ou d'ajouter une étape de vérification séparée, pas de déposer un rapport de bug.

Frequently asked questions

Envie d'avoir ton contexte au même endroit ?

Flaibo conserve ton rôle, ta tonalité et ton travail passé au même endroit, et les intègre dans les prompts que tu emportes vers l'IA que tu utilises, pour qu'une nouvelle discussion n'ait pas à repartir d'une fenêtre de contexte vide.

Commence gratuitement

Ton contexte partout