Anthropic face aux risques cyber et aux agents physiques

Le 24 juillet 2026, la page de recherche d’Anthropic mettait en avant Frontier Red Team, un programme d’évaluation offensive des modèles avancés. Le texte mentionne des mesures sur les exploits dits N-day, le développement d’exploits et le risque croissant de découverte de failles inédites. La même sélection inclut Project Pilot, présenté comme une exploration de la capacité de modèles à faire voler des drones.

Le contexte rend ces publications pertinentes pour la série AGI. Anthropic est un laboratoire frontier qui lie souvent capacités et sûreté dans ses communications techniques. Ici, l’intérêt ne tient pas à un produit. Il tient à une évaluation de ce que des modèles généralistes peuvent faire dans deux domaines sensibles, la cybersécurité et l’action physique. Ces deux axes reviennent constamment dans les débats sur les seuils de risque à surveiller avant un déploiement plus large.

L’analyse est double. D’un côté, ces travaux suggèrent que les laboratoires considèrent désormais certaines capacités d’agent autonome comme suffisamment concrètes pour justifier des protocoles dédiés. De l’autre, le simple fait de mesurer ces risques ne dit pas si les garde-fous suivent le rythme des capacités. La question reste donc ouverte entre démonstration contrôlée, prévention crédible et possible banalisation d’outils plus autonomes dans des domaines à fort impact.