DeepMind plaçant l’AGI plausible d’ici 2030 dans un cadre de risque

Le 4 avril 2025, Fortune rend compte d’un document de 145 pages publié par Google DeepMind. Le laboratoire y estime plausible le développement d’une AGI d’ici 2030. Il précise être très incertain sur les délais. Le texte indique aussi que l’AGI pourrait causer des dommages sévères, jusqu’à la destruction permanente de l’humanité. Les auteurs incluent Shane Legg, cofondateur de DeepMind, connu pour ses prévisions courtes sur l’AGI. Le rapport distingue quatre familles de risques. Il cite le mésusage, c’est-à-dire l’usage intentionnel pour nuire. Il cite le mauvais alignement, soit un comportement nuisible non voulu. Il cite aussi les erreurs de conception ou d’entraînement. Enfin, il inclut les risques structurels, liés aux incitations et aux conflits entre acteurs humains ou systèmes. Fortune note que le document contient aussi des critiques implicites des approches de sécurité d’Anthropic et d’OpenAI.

Ce positionnement compte car il formalise publiquement la doctrine d’un des trois laboratoires les plus avancés. DeepMind ne se contente pas d’annoncer des capacités. Il inscrit l’éventualité de l’AGI dans une grille de risques, de prévention du mésusage et d’identification précoce des capacités dangereuses. Cela donne un cadre institutionnel au débat sur les timelines. Si 2030 est jugé plausible, les questions de gouvernance cessent d’être abstraites pour devenir opérationnelles. L’intérêt du document tient aussi à sa double fonction. Il normalise des timelines relativement courtes tout en essayant de légitimer une stratégie de sécurité pilotée par les laboratoires eux-mêmes. Cela suggère une tension persistante. Les entreprises frontier reconnaissent des risques très élevés, mais veulent aussi garder la main sur la définition des seuils, des tests et des réponses. Les critiques mentionnées dans l’article rappellent que le concept d’AGI reste contesté scientifiquement. Elles rappellent aussi qu’un cadrage institutionnel du risque ne vaut pas démonstration de maîtrise. Le fait important n’est donc pas seulement que DeepMind évoque 2030. C’est qu’un laboratoire central associe désormais explicitement la poursuite de l’AGI à des scénarios de perte de contrôle sévère. La question reste de savoir si cette reconnaissance conduira à des contraintes externes, ou surtout à une gouvernance interne renforcée.