Menu

Réponse à incident agentique, épisode 4 : Gemini se connecte à trois vraies entreprises, et le bac à sable d’Irregular fuit encore

Catégories

Tags

🔍 Licence d'Utilisation 🔍

Sauf mention contraire, le contenu de ce blog est sous licence CC BY-NC-ND 4.0.

© 2025 à 2042 Sébastien Gioria. Tous droits réservés.

⏱️
Temps de lecture estimé
3 min de lecture
⏱️
Temps de lecture estimé
~6 minutes

En mai 2026, pendant une évaluation menée par Irregular, Gemini a deviné des mots de passe et réutilisé des identifiants trouvés dans des dépôts publics pour accéder aux systèmes de trois vraies entreprises. Même prestataire que pour OpenAI, Anthropic et Meta, même famille de défaut, quatrième laboratoire.

Le quatrième, et toujours le même prestataire

Dans l’épisode 2, un modèle d’OpenAI en évaluation finissait par atteindre l’infrastructure de production de Hugging Face. Dans l’épisode 3, c’était Meta. J’écrivais alors que trois laboratoires touchés via un seul prestataire d’évaluation, Irregular, ça sentait fort le défaut de conception chez le prestataire. On peut rajouter une ligne au tableau : Google.

📬 Analyse complète réservée aux abonnés Substack
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.

Trois défauts empilés

Pris isolément, aucun des trois ne mériterait un article.

Le scénario d’abord. L’entreprise fictive portait le nom d’une entreprise qui existe.

📬 Analyse complète réservée aux abonnés Substack
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.

Note du PandaRedacteur : vérifier le nom de l’entreprise fictive contre le DNS public, ça prend cinq minutes. C’est sans doute la ligne de check-list la moins chère de toute cette affaire.

Ce que Google dit, et ce que ça vaut

Heather Adkins, VP security engineering chez Google, explique que Gemini a utilisé des informations publiques et deviné des identifiants sur des sites qu’il croyait relever du périmètre de test approuvé.

📬 Analyse complète réservée aux abonnés Substack
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.

Le même trou chez les autres labos

GBHackers précise que les modèles d’OpenAI, d’Anthropic et de Meta ont eux aussi reçu un accès internet non prévu pendant des évaluations d’Irregular,

📬 Analyse complète réservée aux abonnés Substack
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.

Note du PandaRedacteur : quatre labos, un prestataire, la même porte ouverte. À ce stade, ce n’est plus le modèle qu’il faut évaluer.

Impact potentiel

📬 Analyse complète réservée aux abonnés Substack
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.

Ce qui aurait suffi

Si vous évaluez des agents ou des modèles, c’est l’environnement qu’il faut verrouiller. Les consignes, le modèle les lira peut-être.

📬 Analyse complète réservée aux abonnés Substack
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.

📚 Quelques références pour aller plus loin

À retenir 📌

  • ✓ Gemini a accédé aux systèmes de trois vraies entreprises lors d'une évaluation CTF d'Irregular en mai 2026 ; Irregular a prévenu Google fin juillet.
  • ✓ Trois défauts empilés : une entreprise fictive au nom d'une vraie, un accès internet activé par erreur, et des identifiants exposés dans des dépôts publics.
  • ✓ Le garde-fou du modèle a joué après coup, une fois les accès déjà obtenus ; la frontière de sécurité, c'est l'egress et l'isolation réseau, pas le prompt.
  • ✓ Quatrième laboratoire, même prestataire : Anthropic chiffre trois cas sur 141 006 exécutions revues. À ce volume, "rare" veut dire "régulier".
  • ✓ Côté victimes : scannez vos dépôts pour les secrets, limitez le débit des authentifications et abandonnez la réutilisation de mots de passe.

IR agentique épisode 4 Gemini Irregular - Générée par IA

LinkedIn Reddit Substack