Imaginez la scène.
Vous êtes à votre bureau. Dans votre entreprise, il existe des dizaines, des centaines de dossiers. Mais au moment où vous travaillez vraiment, qu’est-ce que vous avez devant vous ? Seulement quelques documents ouverts, posés sur la table. C’est avec ça que vous pouvez agir. Pas avec l’armoire entière derrière vous.
Pour un LLM, un modèle de langage, la fenêtre de contexte, c’est exactement ça : le bureau de travail du moment.
Alors, qu’est-ce que ça veut dire concrètement ?
La fenêtre de contexte, c’est la quantité de texte que le modèle peut réellement prendre en compte pendant qu’il répond. Autrement dit, c’est ce qu’il a “sous les yeux” au moment précis où il produit sa réponse.
Et là, un point est vraiment essentiel. On pourrait facilement confondre ça avec une mémoire. On se dit : “Il a déjà vu l’information, donc il s’en souvient, non ?”
Eh bien… pas vraiment.
La fenêtre de contexte n’est pas une mémoire durable. Elle ressemble plutôt à une sorte de mémoire de travail temporaire. Elle sert uniquement à traiter ce qui est disponible maintenant, dans l’échange en cours. Rien à voir avec un souvenir humain, qui resterait présent et réutilisable plus tard.
Prenons un instant.
Dans cette fenêtre, il n’y a pas seulement votre dernière question. On y trouve aussi les éléments donnés plus tôt dans la conversation, les instructions que vous avez formulées, et même la réponse que le modèle est en train d’écrire. Oui, sa propre réponse en cours occupe aussi une partie de cet espace.
Résultat : une seule et même capacité doit contenir plusieurs choses en même temps.
Le modèle ne regarde donc pas votre demande actuelle toute seule, comme si elle flottait dans le vide. Il produit sa réponse à partir de tout le texte qui entre dans cette fenêtre au même moment.
Et c’est là que tout devient plus clair.
Vous avez peut‑être déjà eu cette impression : “Le modèle a oublié ce que je lui ai dit au début”, ou “Il mélange tout”, ou encore “Il ignore un détail important”. On pourrait croire qu’il fonctionne comme une personne distraite qui avait l’information et l’a simplement laissée de côté.
En réalité, ce n’est pas ça.
Ce n’est pas qu’il a perdu un souvenir. C’est qu’il ne peut utiliser que ce qui rentre dans son espace de travail du moment.
Si la conversation devient longue, ou si vous empilez beaucoup d’éléments, certains passages vont être moins bien utilisés. Ils peuvent se retrouver trop loin dans l’échange, noyés parmi d’autres informations, ou tout simplement moins pris en compte au moment précis où la réponse est produite.
Et là, un autre phénomène apparaît.
Quand beaucoup de contenu se retrouve en même temps dans ce même espace temporaire, la prise en compte de chaque élément devient moins nette. De l’extérieur, vous avez alors l’impression qu’il ignore une consigne, qu’il confond deux demandes, ou qu’il ne tient pas compte d’un détail que vous avez pourtant déjà mentionné.
Ce que peu de gens réalisent, c’est que la limite ne vient pas d’une mémoire “défaillante”. Elle vient du fait que le modèle travaille avec un contexte borné, limité, et non avec une mémoire durable qui garderait tout de manière stable.
Il faut donc bien séparer deux choses.
D’un côté, il peut y avoir énormément d’informations disponibles dans une conversation ou dans des documents.
De l’autre, le modèle ne peut raisonner qu’avec la partie effectivement présente dans sa fenêtre de contexte au moment précis où il répond.
C’est cette distinction qui change tout dans la façon de comprendre son comportement.
Alors, la prochaine fois qu’un LLM vous semble oublier quelque chose, vous pourrez vous poser une autre question : est‑ce qu’il a vraiment perdu un souvenir… ou est‑ce que, tout simplement, il ne l’a plus clairement sous les yeux dans sa fenêtre de contexte ?
