Security musings

Catégories

Tags

🔍 Licence d'Utilisation 🔍

Sauf mention contraire, le contenu de ce blog est sous licence CC BY-NC-ND 4.0.

© 2025 à 2042 Sébastien Gioria. Tous droits réservés.

📢 📢 📢 📢 📢

L’OWASP a officiellement publié le OWASP Top 10 for Agentic Applications 2026, dans le cadre du OWASP GenAI Security Project – Agentic Security Initiative.

Ce document marque une étape majeure pour la sécurité de l’IA :
il s’agit du premier Top 10 dédié spécifiquement aux applications agentiques, c’est-à-dire des systèmes IA capables de planifier, décider et agir de manière autonome, souvent à travers plusieurs outils, systèmes et agents.

Basé sur des recherches terrain, des exploits réels, des incidents en production et des retours de Red / Blue / Purple Teams, ce Top 10 fournit un référentiel clair des risques agentiques à plus fort impact observés aujourd’hui .


Introduction

Les agents IA représentent une rupture majeure par rapport aux applications et LLM traditionnels.
Ils ne se contentent plus de répondre : ils planifient, décident, délèguent et agissent de manière autonome, souvent à travers plusieurs systèmes et sur de longues périodes.

Cette autonomie introduit une nouvelle surface d’attaque systémique :
les vulnérabilités ne ciblent plus uniquement le modèle, mais l’orchestration, la mémoire, les outils, les identités non-humaines et la confiance humaine.

Le OWASP Top 10 for Agentic Applications 2026 vise à fournir un cadre pragmatique et actionnable pour aider les équipes sécurité et engineering à :

  • comprendre les nouveaux vecteurs d’attaque,
  • prioriser les risques,
  • intégrer des contrôles adaptés dès la conception.

Pourquoi un Top 10 spécifique aux agents ?

Les agents amplifient les vulnérabilités existantes :

  • Un prompt injection devient un détournement d’objectifs multi-étapes
  • Une clé API sur-privilégiée devient une identité autonome persistante
  • Une hallucination devient une défaillance en cascade
  • Une mauvaise UX devient une arme de social engineering

OWASP introduit le concept de Least Agency :

ne jamais donner plus d’autonomie à un agent que ce qui est strictement nécessaire.

Sans observabilité, gouvernance et garde-fous, un agent compromis peut provoquer des impacts à grande échelle avant même qu’un humain ne s’en rende compte.


Les 10 risques du OWASP Agentic Top 10

  1. ASI01 – Agent Goal Hijack : Détournement des objectifs et de la trajectoire décisionnelle d’un agent.
  2. ASI02 – Tool Misuse & Exploitation : Abus d’outils légitimes menant à des fuites, destructions ou fraudes.
  3. ASI03 – Identity & Privilege Abuse :Mauvaise gestion des identités non-humaines et héritage de privilèges.
  4. ASI04 – Agentic Supply Chain Vulnerabilities : Compromission de modèles, plugins, MCP, datasets ou agents tiers.
  5. ASI05 – Unexpected Code Execution (RCE) : Exécution de code imprévue générée ou déclenchée par l’agent.
  6. ASI06 – Memory & Context Poisoning : Corruption persistante de la mémoire ou du contexte de raisonnement.
  7. ASI07 – Insecure Inter-Agent Communication :Communications inter-agents non sécurisées ou manipulables.
  8. ASI08 – Cascading Failures : Propagation et amplification d’erreurs à l’échelle du système.
  9. ASI09 – Human-Agent Trust Exploitation : Exploitation de la confiance humaine envers les agents.
  10. ASI10 – Rogue Agents : Agents autonomes déviants, malveillants ou hors contrôle.

Les agents doivent être sécurisés comme des systèmes distribués autonomes,
pas comme de simples chatbots.

La sécurité agentique conditionne la fiabilité, la conformité et la résilience des systèmes IA modernes.