Le risque ASI10 - Rogue Agents est le scénario ultime : la perte de contrôle sur un système autonome. Un agent dévie durablement de ses objectifs et contraintes de sécurité, agissant de manière autonome pour poursuivre des buts nuisibles, suite à un désalignement, des erreurs cumulées ou une attaque.
Cet article sera publié le 28/12/2025.