flaibo
Glossaire

Inference

L'acte, moment après moment, par lequel un modèle d'IA produit une réponse à ce que tu viens de taper, en utilisant les connaissances qu'il possède déjà plutôt qu'en apprenant quoi que ce soit de nouveau.

Aucune carte bancaire requise

Ce que ça signifie en pratique

Un avocat colle un projet de contrat sensible dans un assistant IA pour obtenir un avis sur une clause, puis s'inquiète que le modèle ait désormais appris le contenu du contrat et puisse le répéter plus tard à un autre utilisateur. En réalité, cette seule réponse relève de l'inférence : le modèle lit le texte collé, génère une réponse, et ses connaissances sous-jacentes restent exactement comme avant, inchangées. Rien de cette conversation ne change ce que le modèle lui-même sait. Qu'un fournisseur utilise aussi des conversations conservées pour entraîner une future version est une question distincte, qui dépend des conditions propres à ce fournisseur, à lire avant de coller quoi que ce soit de sensible.

Exemple

Demande à un assistant de résumer un rapport lundi, puis fais poser par un collègue exactement la même question au même assistant mardi, sans historique de conversation partagé. Le modèle n'a rien conservé de l'échange de lundi ; chaque requête est son propre acte d'inférence indépendant, ne puisant que dans ce qui a déjà été intégré au modèle pendant l'entraînement, plus le texte inclus dans cette conversation précise.

À ne pas confondre avec

vs. Training

L'entraînement est le processus distinct et antérieur au cours duquel les poids d'un modèle ont été initialement appris à partir d'un immense jeu de données, souvent sur des semaines de temps de calcul, bien avant que quiconque ne tape un prompt dedans. L'inférence, c'est ce qui se passe ensuite, à chaque fois, quand ce modèle déjà entraîné répond à une entrée précise : rapide, ordinaire, et cela laisse les poids du modèle totalement inchangés. Le contexte sauvegardé agit lui aussi au niveau de l'inférence : tout le contexte que tu fournis fait simplement partie du texte que le modèle lit dans cette conversation, et non d'une modification de ses poids.

Frequently asked questions

Envie d'avoir ton contexte au même endroit ?

Flaibo conserve ton rôle, ta tonalité et ton travail passé au même endroit, et les intègre dans les prompts que tu emportes vers l'IA que tu utilises, pour qu'une nouvelle discussion n'ait pas à repartir d'une fenêtre de contexte vide.

Commence gratuitement

Ton contexte partout