De zéro à la réponse : chaque étape, avec son vrai nom et ses compléments « + ».
— ici, les IA qui écrivent : ChatGPT, Claude, Gemini, Mistral, DeepSeek… · la version simple
Vision, langage, recommandation, robotique, agents… « l'IA » désigne tout ça. On zoome ici sur les LLM — ChatGPT, Claude, Gemini.
Rien de spécifique à l'IA : nous vivons déjà dans un monde numérique. Elle en hérite — elle ne lit pas, ne voit pas, n'entend pas comme nous.
Avant tout, le texte est découpé en petits morceaux — souvent des bouts de mots. On les appelle des tokens. Chaque morceau est aussitôt remplacé par un numéro.
Un modèle est une immense formule de calcul. Ses nombres ajustables s'appellent des paramètres. Avant l'entraînement, chacun est tiré au sort : le modèle ne sait rien, sa sortie n'est que du bruit.
On lui fait lire des milliards de phrases. À chaque fois, on cache le morceau suivant : il doit le deviner.
Le modèle est fait de dizaines de couches de calcul empilées. À chaque devinette ratée, on mesure l'écart avec la bonne réponse, puis on remonte couche par couche pour savoir quels réglages ont contribué à l'erreur, et dans quel sens les corriger.
Phrase : « Un avocat plaide au tribunal. » On cache le dernier mot — le bon token est « tribunal ». Chaque colonne est un paramètre*, réglé un peu plus à chaque essai.
| rég. 1 | rég. 2 | rég. 3 | rég. 4 | |
|---|---|---|---|---|
| avocat | 0.1 | −0.3 | 0.4 | 0.2 |
| tribunal | −0.2 | 0.1 | −0.1 | 0.3 |
| même sens ? | 👎 | 👎 | 👎 | 👍 |
Chaque morceau de mot devient une liste de nombres : ses coordonnées. À chaque essai de l'entraînement, elles bougent un peu. Au bout de milliards d'essais, les mots employés dans les mêmes phrases sont devenus voisins.
Le même réglage donne à chaque morceau une petite fiche de nombres — ses coordonnées. Voici le principe, avec d'autres mots pour bien voir la géométrie.
Au départ, le hasard. Puis, essai après essai, chaque mot rejoint sa place — et sa distance aux autres se met à vouloir dire quelque chose.
Après la première phase, le modèle sait prolonger un texte, pas suivre une consigne. Demandez-lui « Écris un mail de relance » : il pourrait enchaîner « …et un mail de remerciement », comme dans une liste. On le règle alors sur des exemples choisis : une demande, la réponse attendue.
Savoir deviner la suite ne suffit pas : il faut qu'il réponde utilement et poliment. Des personnes lui montrent de bons exemples, puis choisissent, entre deux réponses, laquelle est préférable.
L'apprentissage s'arrête : on verrouille tous ses réglages, définitivement. Et il n'a pas gardé en mémoire les textes qu'il a lus — seulement les régularités qu'il y a repérées. Quand il répond, il ne ressort pas une information : il reconstruit une suite plausible. Parfois juste, parfois fausse.
Beaucoup l'imaginent comme une bibliothèque qu'on interroge — elle irait chercher une page, un site, un extrait exact. Ce n'est jamais ça.
Ce calcul, on vient de le voir : il pose un token, regarde ce qui précède, choisit le plus probable… et recommence. Sans jamais relire ni se relire.
Pour le modèle, « avocat » est un seul mot, avec des réglages figés depuis l'entraînement. Pourtant ce mot désigne un fruit ou un métier. Comment le modèle choisit-il ?
« Un avocat plaide au tribunal. » Une règle figée — la même pour tous les mots — calcule à quel point chaque voisin est utile.
| rég. 1 « cuisine » | rég. 2 « justice » | rég. 3 | rég. 4 | pertinence | |
|---|---|---|---|---|---|
| avocat | 0.5 | 0.5 | 0.1 | −0.1 | — |
| tribunal | 0.1 | 0.9 | 0.6 | 0.2 | ≈ 45 % |
| plaide | 0.2 | 0.8 | 0.5 | 0.1 | ≈ 45 % |
| Un, au, . | 0.05 | 0.05 | 0 | 0 | ≈ 10 % |
« Un avocat mangé en salade. » Mêmes réglages figés — d'« avocat », de « tribunal », de « salade »… Seuls les voisins changent.
| rég. 1 « cuisine » | rég. 2 « justice » | rég. 3 | rég. 4 | pertinence | |
|---|---|---|---|---|---|
| avocat | 0.5 | 0.5 | 0.1 | −0.1 | — |
| salade | 0.9 | 0.05 | −0.2 | 0.4 | ≈ 45 % |
| mangé | 0.85 | 0.1 | −0.15 | 0.35 | ≈ 45 % |
| un, en | 0.05 | 0.05 | 0 | 0 | ≈ 10 % |
Les réglages d'« avocat » sont exactement les mêmes dans les deux phrases. Ce qui change, ce sont ses voisins : le modèle mélange leur sens, et c'est ce mélange qui fait d'« avocat » un métier ou un fruit.
Pour vos prompts : plus vous donnez de contexte, plus l'IA choisit le bon sens.
Tout ce qu'il voit en ce moment : vos messages, ses réponses, les documents fournis. Repassé en entier dans le calcul à chaque mot généré — mais en quantité limitée.
Le modèle seul ne sait que ce qu'il a appris, et c'est figé. Pour vos documents ou l'actualité, un autre logiciel cherche les bons extraits et les ajoute au contexte, juste avant qu'il réponde.
Cette fois, c'est le modèle qui décide : il écrit une demande d'outil (chercher sur le web, calculer, lire un fichier, envoyer un mail). Un programme l'exécute, le résultat revient dans le contexte, et il continue. C'est ce qu'on appelle un agent.
Avant votre premier message, celui qui a installé l'IA lui donne des instructions cachées — invisibles, mais elles fixent les règles du jeu.
Ce moteur — le modèle figé qu'on vient de voir — se retrouve derrière trois usages : client prêt à l'emploi (web, bureau, éditeur), API pour développeurs, ou modèle téléchargé en local.
Beaucoup de « start-up IA » ne construisent rien de tout ça. Elles branchent une interface sur le moteur de quelqu'un d'autre.
Le modèle en service est figé : vos 👍 👎 et vos conversations ne le modifient pas. Ils peuvent en revanche servir à entraîner la version suivante.
Une IA ne cherche pas le vrai. Elle cherche le plausible — ce qui « sonne juste ». Le plus souvent ça coïncide. Pas toujours.