Menu

Un agent a fauté ; qui répond ? La première notification à l’AEPD d’une violation menée par un agent IA

Catégories

Tags

🔍 Licence d'Utilisation 🔍

Sauf mention contraire, le contenu de ce blog est sous licence CC BY-NC-ND 4.0.

© 2025 à 2042 Sébastien Gioria. Tous droits réservés.

⏱️
Temps de lecture estimé
2 min de lecture
⏱️
Temps de lecture estimé
~4 minutes

L’autorité espagnole de protection des données a reçu sa première notification d’une violation de données exécutée par un agent IA, de la reconnaissance jusqu’à la modification de données personnelles. Le cas n’est pas vérifié, l’organisation et le modèle ne sont pas nommés. Il pose quand même la bonne question : quand l’attaquant délègue à un agent, qui notifie, qui répond, et en combien de temps ?

Depuis deux ans, les comités de direction me demandent qui serait responsable si une IA les attaquait. Le 14 septembre, l’AEPD a publié un billet court et prudent qui me donne enfin un cas : une organisation lui a notifié une violation de données personnelles dont, selon elle, chaque étape a été exécutée par un agent IA reposant sur un modèle de langage « connu ». Cette fois, pas d’éditeur avec un produit à placer en fin de rapport, mais une notification RGPD chez un régulateur, avec un délai, un registre et quelqu’un qui signe.

Ce que dit l’AEPD

L’agent a cherché des vulnérabilités dans des fichiers génériques, s’est connecté avec succès, a sondé l’application de lui-même, puis a modifié des données personnelles et accédé à des factures. L’AEPD insiste sur ce point : un tiers a enchaîné toutes ces phases au moyen de l’agent.

Elle reste prudente sur le reste. Les faits viennent de la notification de l’organisation et doivent encore être analysés ; organisation, secteur, modèle et nombre de personnes concernées ne sont pas communiqués, et les médias hésitent entre le 14 et le 15 septembre. Utiliser un modèle donné ne signifie pas non plus que son fournisseur a été compromis, ni que l’outil a été conçu pour nuire.

Ses recommandations tiennent en une phrase : intégrer explicitement les attaques par IA dans l’analyse de risques, revoir les temps de réponse, resserrer identités et jetons, et appuyer la supervision humaine sur une détection rapide.

Ma lecture, développée dans la version complète (celle d’un praticien, pas un conseil juridique) : l’article 33 du RGPD ne demande pas qui tenait le clavier. L’agent ne déplace pas la responsabilité, il raccourcit le temps qu’il vous reste pour l’assumer.

Au menu de la version abonnés

Au Menu, la suite de l’analyse :

  • l’article 33 relu mot pour mot : les 72 heures, la documentation,
  • qui répond de quoi
  • les quatre niveaux d’autonomie du guide AEPD,
  • ce que la CNIL et l’ANSSI attendent déjà, et le rapprochement avec l’AI Act ;
  • l’analyse STRIDE, le tableau d’impact et sept mitigations de gouvernanc
📬 Analyse complète réservée aux abonnés Substack
La lecture de l'article 33, la répartition des responsabilités, le STRIDE et les mitigations de gouvernance partent d'abord aux abonnés Substack, avant d'être publiés intégralement ici.

📚 Quelques références pour aller plus loin

LinkedIn Reddit Substack