flaibo
Glossaire

Bias

Un biais systématique et reproductible dans les réponses d'un modèle d'IA, qui favorise ou désavantage de façon constante certains groupes, secteurs ou points de vue, et qui se manifeste à travers de nombreuses réponses plutôt que dans une seule.

Aucune carte bancaire requise

Ce que ça signifie en pratique

Une équipe RH utilise un assistant IA pour rédiger des offres d'emploi ou présélectionner des CV à grande échelle. Chaque description prise isolément paraît professionnelle et chaque décision de présélection semble défendable en elle-même, mais quand quelqu'un audite une centaine de réponses ensemble, un schéma se dégage : les offres pour des postes techniques utilisent systématiquement un langage plus assertif connoté vers un genre, ou certains candidats issus de certaines écoles ou parcours sont décrits en des termes plus favorables que des candidats tout aussi qualifiés. Aucune réponse prise isolément n'était assez fausse ou offensante pour être signalée à elle seule, ce qui rend justement le biais plus difficile à repérer qu'une erreur factuelle évidente : il vit dans l'agrégat, pas dans une seule phrase, et il faut comparer de nombreuses réponses côte à côte pour seulement le voir.

Exemple

Demande à un assistant IA d'écrire cinquante courtes biographies, la moitié pour des hommes et la moitié pour des femmes occupant le même intitulé de poste. Lues individuellement, elles semblent toutes correctes et professionnelles. Mets-les côte à côte, en revanche, et un schéma peut apparaître : les biographies des hommes s'appuient sur des mots comme expert et dirigé, celles des femmes sur bienveillant et aidé. Ce schéma agrégé, et non une biographie prise isolément, c'est à quoi ressemble le biais dans la pratique.

À ne pas confondre avec

vs. Hallucination

L'hallucination est une seule affirmation fabriquée à l'intérieur d'une réponse, comme une statistique inventée ou une citation qui n'existe pas ; tu peux la repérer en vérifiant cette réponse par rapport à la réalité. Le biais est un schéma qui traverse de nombreuses réponses et qui persiste même quand chaque phrase prise isolément est factuellement vraie, si bien que vérifier l'exactitude d'une seule réponse ne t'apprend rien à son sujet ; tu ne peux le voir qu'en comparant des réponses entre groupes, secteurs ou points de vue et en remarquant le déséquilibre.

Frequently asked questions

Envie d'avoir ton contexte au même endroit ?

Flaibo conserve ton rôle, ta tonalité et ton travail passé au même endroit, et les intègre dans les prompts que tu emportes vers l'IA que tu utilises, pour qu'une nouvelle discussion n'ait pas à repartir d'une fenêtre de contexte vide.

Commence gratuitement

Ton contexte partout