Qu'est-ce qu'un modèle de langage ?

Derrière chaque réponse de ChatGPT, Gemini ou Claude, il y a un modèle de langage. Ce qu'il fait vraiment, et pourquoi il peut sembler juste tout en se trompant.
L'essentiel en 30 secondes
- Un modèle de langage choisit le mot le plus probable après ceux qu'il a déjà écrits.
- Il a appris à partir d'une très grande quantité de textes, sans comprendre le monde comme une personne.
- Sa réponse peut être fluide et fausse à la fois. Vérifie toujours les points importants.
Tu poses une question à un assistant, et la réponse apparaît mot après mot. Qui l'écrit ? Il n'y a personne derrière l'écran. C'est un modèle de langage, un programme entraîné sur des textes pour continuer des phrases de façon cohérente.
C'est quoi, concrètement ?
Un modèle de langage calcule quel mot a le plus de chances de venir après un autre. Pense à la suggestion de mots de ton téléphone. Elle propose la suite en se basant sur ce que tu as déjà tapé. Un modèle de langage fait la même chose, à une échelle bien plus grande, avec des phrases et des paragraphes entiers.
Un exemple concret
Tu écris : « Le chat dort sur le… ». Le modèle sait que « canapé » ou « tapis » sont des suites très courantes. Le mot « avion » est beaucoup moins probable dans cette phrase. Il choisit donc un mot plausible. En répétant ce calcul un très grand nombre de fois, il produit un texte entier.
Comment un modèle apprend, étape par étape
- On lui fait lire une très grande quantité de textes.
- On lui cache un mot dans une phrase, et il essaie de le deviner.
- S'il se trompe, ses réglages internes sont légèrement ajustés.
- Après un très grand nombre de répétitions, il sait enchaîner les mots de façon cohérente.
Cette phase d'apprentissage est longue et coûteuse. Ensuite, le modèle ne retient pas les textes un par un. Il garde surtout des régularités : quels mots vont ensemble, dans quel ordre, et sur quels sujets.
Pourquoi c'est important ?
Comprendre ce mécanisme t'aide à lire les réponses avec un regard critique. Une réponse peut être bien écrite et pourtant inexacte. Le modèle cherche la suite plausible, pas la vérité vérifiée.
Ça t'aide aussi à mieux écrire tes demandes. Plus tu donnes de contexte, moins il y a de suites possibles, et plus la réponse colle à ton besoin. C'est le principe de base d'un bon prompt.
Les erreurs à éviter
- Croire qu'il comprend comme un humain. Il manipule des probabilités de mots. Il ne vit pas l'expérience qu'il décrit.
- Penser qu'il vérifie tout en direct. Un modèle seul écrit à partir de ce qu'il a appris. Certains assistants ont une option de recherche sur le web, à activer quand c'est utile.
- Lui faire confiance pour les dates, les chiffres et les noms. C'est là qu'il se trompe le plus souvent.
Les mots à connaître
- Modèle de langage : programme qui calcule la suite de mots la plus probable.
- Entraînement : phase pendant laquelle le modèle apprend à partir de textes.
- Hallucination : réponse fausse, mais écrite avec assurance.
Questions fréquentes
Un modèle de langage est-il la même chose qu'une IA ?
Non. C'est une famille d'IA, spécialisée dans le texte. Il existe aussi des IA spécialisées dans les images ou le son.
Pourquoi les noms des modèles changent-ils souvent ?
Les éditeurs publient des versions successives, avec des réglages différents. Un même assistant peut donc proposer plusieurs modèles à la suite.
Le modèle retient-il ce que je lui écris ?
Ça dépend de l'assistant et de ses réglages de mémoire. Vérifie ce qui est conservé dans les paramètres de ton compte.
Et maintenant ?
Pour donner au modèle les bonnes informations, lis Prompt ChatGPT : la méthode pour écrire de bons prompts. Et pour une vue d'ensemble, C'est quoi, l'intelligence artificielle ?.