🛡️ Validation et Filtrage des Entrées/Sorties dans le Zero-Trust

Validation et Filtrage des Entrées/Sorties :

Empêche les attaques par injection (spécifiquement l’injection de prompt dans le contexte GenAI) qui visent à manipuler le modèle, contourner les règles, exfiltrer des données ou exécuter des actions non désirées. Protège aussi contre la fuite d’informations sensibles ou la génération de contenu nuisible par le modèle lui-même.

Mise en oeuvre :

Valider, nettoyer (sanitize) et/ou rejeter toutes les entrées (prompts, paramètres API) non fiables.
Filtrer et encoder les sorties générées par l’IA avant de les afficher à l’utilisateur ou de les utiliser dans d’autres systèmes.

Menaces STRIDE adressées :

• Tampering (manipulation du modèle/logique applicative via input)
• Information Disclosure (exfiltration via input ou fuite via output)
• Elevation of Privilege (contournement de contrôles via injection)

📖 Resources OWASP :

• Input Validation Cheat Sheet,
• Injection Prevention Cheat Sheet,
• DOM XSS Prevention
• Cross Site Scripting Prevention Cheat Sheet,
• Consulter le projet OWASP Top 10 for Large Language Model Applications

📖 Resources spécifiques de ce blog :

• Se protéger de l’injection de prompt
• Se protéger des XSS
• Se protéger en profondeur des XSS

Points de contrôles de votre chaine DevGenAISecOps 🎯 :

• OWASP ASVS Chapitre V5: Validation, Sanitization and Encoding,