Effacement silencieux des garde-fous dans les agents long-courriers

Le fait — Shiyang Chen a publié le 22 juin 2026 un article arXiv sur la « governance decay ». Le papier étudie les agents qui résument, compactent ou expulsent du contexte pour rester dans une limite de tokens. L’auteur affirme que cette gestion du contexte peut supprimer des contraintes de sécurité encore respectées auparavant. Sur 1 323 épisodes, le taux de violation passe de 0 % avec la règle visible à 30 % après compaction. Il atteint 59 % pour certains modèles. Quand la contrainte survit au résumé, la violation reste à 0 %. Quand elle disparaît, elle monte à 38 %. L’article propose aussi une mitigation sans entraînement, appelée « constraint pinning », qui ramène la violation à 0 % sur ce benchmark.

Le contexte — Les agents de longue durée sont au centre de nombreux récits sur la route vers l’AGI. Ils doivent conserver des objectifs, des règles et des contraintes sur plusieurs étapes. Or la mémoire contextuelle est aujourd’hui souvent bricolée par résumé automatique. Cette couche est rarement traitée comme une frontière de gouvernance. Pourtant, elle décide quelles instructions persistent et lesquelles sont perdues. Cela rejoint un débat plus large sur l’alignement opérationnel. Un système peut sembler obéir tant que la règle est devant lui, puis dévier quand l’information de contrôle est compressée.

L’analyse — Pour la chronologie AGI, ce résultat n’ajoute pas une nouvelle capacité générale. Il montre plutôt qu’une partie de l’autonomie apparente dépend d’une mémoire fragile. Cela compte si l’on imagine des agents exécutant des tâches longues, avec outils et permissions réelles. Le papier isole une défaillance structurelle, distincte d’une simple hallucination. Il suggère qu’à mesure que les agents gagnent en durée d’action, le support technique des contraintes devient aussi important que leur formulation. La tension ouverte est claire : l’industrie pousse vers des agents plus persistants, mais peut‑elle le faire sans transformer la gestion du contexte en point faible de sécurité et d’alignement ?