Alerte onusienne sur les risques catastrophiques d’une IA incontrôlée

Le fait — Reuters a rendu compte le 1 juillet 2026 d’un rapport d’un panel indépendant des Nations unies sur l’intelligence artificielle. Le panel affirme que des progrès non encadrés peuvent poser des risques catastrophiques. Il anticipe à court terme une transition vers des systèmes agentiques. Un système agentique agit dans le monde plutôt que répondre seulement à une requête. Le rapport évoque aussi des limites possibles, notamment l’énergie et la rareté des données de qualité. À plus long terme, il envisage des IA auto-améliorantes. Il les décrit comme plus intégrées à l’économie et convergentes avec le quantique et les biotechnologies. Le panel écrit aussi que l’IA montre déjà un raisonnement de niveau expert en mathématiques et en science. Il ajoute que la complexité des tâches réalisables doublerait tous les quatre à sept mois. Il signale enfin des risques de perte de contrôle, de tromperie, de désinformation, de fraude, de cyberattaque et de menaces biologiques.

Le contexte — Ce type de rapport ne mesure pas directement une AGI. Il fixe cependant un cadre institutionnel sur la trajectoire vers des systèmes plus généraux. L’ONU entre ici dans un débat déjà structuré par les laboratoires frontier, les gouvernements et les chercheurs en sécurité. Les laboratoires frontier sont les entreprises à la frontière des capacités, comme OpenAI, Anthropic ou Google DeepMind. Le point notable est le vocabulaire employé. Le rapport parle d’autonomie croissante, d’auto-amélioration et de perte de contrôle. Ce sont des thèmes au cœur du débat AGI, pas seulement des discussions sur des usages sectoriels. L’analyse — Cet article compte pour la chronologie AGI car il documente un positionnement institutionnel explicite sur les capacités et les risques. Il ne prouve pas une proximité de l’AGI. Il montre plutôt que des institutions internationales traitent désormais l’autonomie des modèles comme un enjeu de gouvernance global. Le détail sur les tâches agentiques et sur l’auto-amélioration suggère aussi un déplacement du débat. La question n’est plus seulement la qualité des réponses. Elle devient la capacité des systèmes à agir longtemps, à tromper et à interagir avec d’autres infrastructures. Cela renforce la pression pour des standards de sécurité, mais sans résoudre le désaccord de fond. Jusqu’où faut-il laisser progresser les capacités avant d’imposer des contraintes plus dures ?