Ce qui se passe vraiment quand vous tapez un prompt
La question qu'on me pose le plus souvent sur le fonctionnement de l'intelligence artificielle générative n'est pas "est-ce que ça marche ?" mais "comment ça peut sortir une phrase qui a du sens ?". Et à chaque fois, je vois la même chose : les gens imaginent une sorte de moteur de recherche amélioré, qui irait piocher des bouts de texte quelque part pour les recoller.
C'est faux. Et comprendre pourquoi c'est faux change tout à la façon dont on utilise ces outils.
Quand vous écrivez une question à un modèle de langage, il ne cherche rien. Il calcule la suite la plus probable, mot après mot, en s'appuyant uniquement sur ce qu'il a appris pendant son entraînement. Voilà le cœur du mécanisme. Le reste, c'est de l'ingénierie autour de cette idée simple.
Points clés à retenir
- Un modèle génératif ne récupère pas de contenus : il prédit, token par token, ce qui a statistiquement du sens après ce que vous venez d'écrire.
- Le pipeline réel comporte quatre grandes étapes : collecte de données, pré-entraînement, ajustement, puis alignement sur les préférences humaines.
- Texte et image ne reposent pas sur les mêmes familles de modèles — Transformers autoregressifs d'un côté, diffusion de l'autre.
- La "compréhension" affichée est une illusion utile : elle vient de la qualité des données et du réglage, pas d'une intention.
- Un même modèle peut être excellent en résumé et catastrophique en calcul : ce n'est pas un bug, c'est la conséquence directe de son mode de fonctionnement.
Le moteur invisible : la prédiction du token suivant
Tout commence par un découpage. Le texte que vous envoyez est fragmenté en unités appelées tokens — parfois un mot entier, parfois une syllabe, parfois juste un signe de ponctuation. "Générative" peut compter pour deux ou trois tokens selon le modèle. Ces tokens sont ensuite convertis en vecteurs, c'est-à-dire en longues suites de nombres qui représentent leur position dans un espace mathématique.
Et là, la magie apparente s'explique assez bêtement : dans cet espace, des mots proches par le sens se retrouvent proches par les coordonnées. "Chat" et "félin" se croisent. "Banque" (l'établissement financier) et "banque" (le banc de poissons) se séparent, parce que le contexte les a placés ailleurs.
Le mécanisme d'attention, ce qui a tout changé
Le vrai saut technologique tient dans un mot : attention. Quand le modèle traite le mot "elle" dans une phrase, il pondère l'importance de tous les autres mots déjà présents pour décider à quoi "elle" se rapporte. Cette pondération s'effectue en parallèle, sur des dizaines de têtes différentes, chacune regardant la phrase sous un angle distinct.
Je vais être franc : quand j'ai lu ma première explication sérieuse de ce mécanisme, j'ai relu le même paragraphe quatre fois. C'est contre-intuitif, parce qu'on cherche instinctivement une lecture linéaire, alors que le calcul se fait d'un bloc.
Résultat de tout ça : à chaque étape, le modèle produit une probabilité pour chaque token possible. Il en tire un, l'ajoute à la suite, et recommence. Une phrase de vingt mots, c'est vingt tirages successifs, chacun influencé par tous les précédents.
Différence entre IA et IA générative : où se situe la frontière
Classifier un email en spam, prédire le prix d'un appartement, détecter une tumeur sur une radio : ce sont des tâches d'IA classique. Elles tranchent. Elles rangent une entrée dans une catégorie, ou sortent un nombre.
Un système génératif ne tranche pas. Il produit. La sortie n'est pas une étiquette mais un nouvel objet — un paragraphe, une image, une ligne de code, un fichier audio. C'est toute la différence, et elle a une conséquence pratique énorme : on ne peut pas évaluer un modèle génératif avec la même grille qu'un classifieur.
Une taxonomie qu'on oublie trop souvent
On parle d'"IA générative" comme d'un bloc. En réalité, il y a au moins deux grandes familles, et elles n'ont presque rien en commun sur le plan technique :
- Les Transformers autoregressifs, qui génèrent du texte (et parfois de l'image) en prédisant la suite, token après token.
- Les modèles de diffusion, qui partent d'un bruit aléatoire et le débruitent par étapes successives jusqu'à faire apparaître une image cohérente.
- Les GAN et les VAE, plus anciens, encore utilisés dans certains cas précis mais largement dépassés pour la génération d'images réalistes.
Cette distinction compte. Un modèle de diffusion ne "prédit" pas une image comme un Transformer prédit un mot. Il la sculpte progressivement. Confondre les deux mène à des attentes absurdes, du genre "pourquoi mon générateur d'images ne sait pas compter les doigts ?".
Étapes concrètes du pipeline : de l'entraînement à l'usage
Personne ne vous le raconte en détail, alors voici la chaîne réelle. Quatre étapes, dans l'ordre.
1. La collecte et le nettoyage
On rassemble des volumes considérables de textes, puis on filtre. Doublons, contenus toxiques, données personnelles, pages de spam : tout cela part à la poubelle avant l'entraînement. Ce travail préparatoire est invisible dans les communications des éditeurs, et pourtant il conditionne la qualité finale autant que l'architecture du réseau.
2. Le pré-entraînement
C'est l'étape la plus coûteuse. Le modèle parcourt les données en essayant de deviner le token masqué ou suivant, et corrige ses paramètres à chaque erreur. Répété des milliards de fois. Ce qu'il apprend à ce stade, ce ne sont pas des faits rangés dans des cases, mais des régularités statistiques sur la façon dont le langage s'organise.
3. L'ajustement et l'alignement
Un modèle brut pré-entraîné est souvent inutilisable tel quel : il complète du texte, il ne répond pas à des questions. On le spécialise donc, puis on l'aligne sur ce que les humains jugent comme une bonne réponse. C'est ici qu'intervient l'apprentissage à partir de retours humains, où des annotateurs classent les réponses du modèle par ordre de préférence.
4. L'inférence
Enfin, l'usage réel. Votre prompt entre, le modèle calcule, la réponse sort. Aucun apprentissage à ce moment-là : les paramètres sont gelés. Le modèle ne "se souvient" pas de votre conversation précédente, sauf si l'application lui renvoie explicitement l'historique.
| Étape | Ce qui se passe | Durée typique |
|---|---|---|
| Collecte et filtrage | Assemblage et nettoyage des corpus | Plusieurs mois |
| Pré-entraînement | Parcours massif des données, ajustement des paramètres | Semaines à plusieurs mois de calcul réparti |
| Alignement | Spécialisation et tri des réponses par préférence humaine | Quelques semaines |
| Inférence | Génération de la réponse à votre requête | Fractions de seconde à quelques secondes |
IA générative exemple : ce qui se passe réellement, prompt par prompt
Prenons une demande banale : "Rédige un email de relance pour un client qui n'a pas payé depuis trois semaines."
Le modèle tokenise votre consigne. Il repère les marqueurs de registre (relance, impayé, relation client), la tonalité attendue (ferme mais pas agressive), et la longueur implicite d'un email professionnel. Puis il génère. Premier token probable : une formule d'appel. Deuxième : le motif du message. Et ainsi de suite jusqu'à la signature.
Ce qui me frappe, après avoir décortiqué ce mécanisme, c'est à quel point la qualité du prompt agit directement sur la distribution de probabilités. Ajoutez "ton cordial, deux paragraphes maximum, rappel de l'échéance sans menace" et vous resserrez l'espace des sorties possibles. Vous ne "demandez" pas gentiment : vous contraignez le calcul.
C'est la raison pour laquelle deux prompts apparemment synonymes donnent des résultats très différents. La différence ne tient pas à la politesse de la formulation, mais à la quantité d'information exploitable que vous avez injectée.
Ce que cette machine ne sait pas faire
Maintenant, la partie qu'on oublie. Un modèle génératif ne vérifie rien. Il produit la suite la plus plausible, pas la suite la plus vraie. Ces deux choses coïncident souvent — et c'est ce qui rend l'outil utile. Elles divergent régulièrement, et c'est ce qui le rend dangereux quand on l'utilise sans garde-fou.
Un exemple que j'ai vu se produire : demander à un assistant de calculer une remise en cascade sur trois niveaux. Réponse fluide, structurée, avec un raisonnement apparent. Résultat arithmétique faux. Le modèle avait produit une réponse plausible, pas une réponse exacte — parce que son entraînement l'a rendu bon en langage, pas en arithmétique.
Deuxième limite : l'absence de mémoire persistante. Le modèle tel qu'il tourne pour vous ne retient rien. Ce qui ressemble à de la mémoire est un historique qu'on lui renvoie à chaque tour.
Pourquoi les hallucinations ne sont pas un bug
On présente souvent les hallucinations comme un défaut de fabrication. En réalité, elles découlent directement du principe : si le modèle génère du plausible, alors dans les zones où les données sont rares ou ambiguës, le plausible n'a plus grand-chose à voir avec le réel. Ce n'est pas un dysfonctionnement, c'est le fonctionnement normal poussé dans ses retranchements.
Les éditeurs corrigent cela par l'alignement et par l'ajout de mécanismes de recherche externe, pas en supprimant la cause — elle est structurelle.
Ce qu'il faut retenir du mécanisme
Comprendre le fonctionnement de l'intelligence artificielle générative, ce n'est pas apprendre une définition à réciter. C'est saisir qu'on a affaire à une machine à prédire la suite la plus probable, entraînée sur d'immenses corpus, puis réglée pour répondre plutôt que compléter.
Tout le reste — les bonnes pratiques, les limites, les cas d'usage pertinents ou absurdes — découle de cette phrase.
Et c'est précisément là que la question devient intéressante pour vous. Si l'outil ne cherche pas, s'il ne sait pas et se contente de produire du vraisemblable, alors ce n'est pas lui qui porte la responsabilité du résultat. C'est vous, à travers la contrainte que vous lui donnez. La vraie compétence, celle qui distinguera bientôt les utilisateurs ordinaires des autres, ne consiste plus à savoir quel outil ouvrir. Elle consiste à savoir quelle information injecter pour orienter le calcul.
Une dernière chose, que je trouve vertigineuse : ce mécanisme est bête. Découper, prédire, recommencer. Il n'y a rien d'autre. Et pourtant, de cette bêtise répétée à une échelle que personne n'avait atteinte auparavant émerge quelque chose qui ressemble à de la compréhension. Pas parce que la machine comprend, mais parce que nous, en la lisant, nous projetons du sens sur ses sorties.
La prochaine fois qu'un modèle vous bluffera, souvenez-vous de ça : il ne pense pas ce qu'il dit. Il calcule juste, très bien, la suite la plus probable.
