3 min de lecture
~6 minutes
En mai 2026, pendant une évaluation menée par Irregular, Gemini a deviné des mots de passe et réutilisé des identifiants trouvés dans des dépôts publics pour accéder aux systèmes de trois vraies entreprises. Même prestataire que pour OpenAI, Anthropic et Meta, même famille de défaut, quatrième laboratoire.
Le quatrième, et toujours le même prestataire
Dans l’épisode 2, un modèle d’OpenAI en évaluation finissait par atteindre l’infrastructure de production de Hugging Face. Dans l’épisode 3, c’était Meta. J’écrivais alors que trois laboratoires touchés via un seul prestataire d’évaluation, Irregular, ça sentait fort le défaut de conception chez le prestataire. On peut rajouter une ligne au tableau : Google.
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.
Trois défauts empilés
Pris isolément, aucun des trois ne mériterait un article.
Le scénario d’abord. L’entreprise fictive portait le nom d’une entreprise qui existe.
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.
Note du PandaRedacteur : vérifier le nom de l’entreprise fictive contre le DNS public, ça prend cinq minutes. C’est sans doute la ligne de check-list la moins chère de toute cette affaire.
Ce que Google dit, et ce que ça vaut
Heather Adkins, VP security engineering chez Google, explique que Gemini a utilisé des informations publiques et deviné des identifiants sur des sites qu’il croyait relever du périmètre de test approuvé.
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.
Le même trou chez les autres labos
GBHackers précise que les modèles d’OpenAI, d’Anthropic et de Meta ont eux aussi reçu un accès internet non prévu pendant des évaluations d’Irregular,
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.
Note du PandaRedacteur : quatre labos, un prestataire, la même porte ouverte. À ce stade, ce n’est plus le modèle qu’il faut évaluer.
Impact potentiel
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.
Ce qui aurait suffi
Si vous évaluez des agents ou des modèles, c’est l’environnement qu’il faut verrouiller. Les consignes, le modèle les lira peut-être.
Cette partie part d'abord aux abonnés Substack, avant d'être publiée intégralement ici.
📚 Quelques références pour aller plus loin
- Cyber Security News : Google Gemini AI Hacked 3 Real Companies during a Cybersecurity Test
- GBHackers : Google Gemini AI Hacked 3 Real Companies After Cybersecurity Test Exposed It to Internet
- Réponse à incident agentique, épisode 2 : l’évaluation qui s’échappe
- Réponse à incident agentique, épisode 3 : Meta, Irregular, et le même bac à sable qui fuit trois fois
- OWASP : Top 10 for Large Language Model Applications
