~3 minutes
L’IA s’invite partout dans les pipelines logiciels, mais qui sait vraiment ce qu’il y a dans un modèle ? OWASP lance le projet AI Bill of Materials (AIBOM) pour apporter la même transparence aux systèmes IA que ce que le SBOM a apporté au logiciel. Un standard dont on a vraiment besoin.
Pourquoi un SBOM pour l’IA ?
Si tu travailles dans la sécurité logicielle, le concept de SBOM (Software Bill of Materials) ne t’est pas étranger. Depuis les attaques supply chain comme SolarWinds ou l’incident Notepad++, on sait que la transparence sur ce qui compose notre logiciel est critique.
Mais avec l’IA, on a un problème supplémentaire : un modèle, c’est une boîte noire. Qui a fourni les données d’entraînement ? Sur quels datasets a-t-il été fine-tuné ? Quels sont les biais intégrés ? Quelles dépendances tiers entrent dans sa fabrication ?
Sans réponse à ces questions, déployer un modèle en production c’est accepter un risque supply chain invisible. Et ça, c’est un problème.
Le projet OWASP AIBOM
L’OWASP AI Bill of Materials (AIBOM) est un projet communautaire qui vise à établir un cadre complet pour identifier et documenter les systèmes IA. Il s’inscrit dans la continuité directe des travaux OWASP sur la supply chain logicielle (rappelle-toi, A03 du Top 10 2025 c’est Software Supply Chain Failures).
L’objectif est triple :
- Transparence : documenter la lignée du modèle, les datasets d’entraînement et les risques associés
- Sécurité : permettre une évaluation des risques avant déploiement en prod
- Standards : établir des pratiques reconnues par l’industrie pour la traçabilité des systèmes IA
Le site officiel du projet owaspaibom.org est hébergé dans le giron de l’OWASP GenAI Security Project.
Ce que contient un AIBOM
Un AIBOM documente tout ce qu’on veut savoir sur un système IA :
| Composant | Contenu |
|---|---|
| Lignée du modèle | Origine, version de base, fine-tuning |
| Datasets | Sources, versions, provenance, intégrité |
| Dépendances | Frameworks, bibliothèques, composants tiers |
| Risques | Vulnérabilités connues, biais identifiés |
| Conformité | Exigences réglementaires (EU AI Act, etc.) |
| Gouvernance | Responsables, processus de validation |
C’est exactement ce dont ont besoin les équipes de sécurité, les RSSI et les Chief AI Officers pour avoir une vue claire sur ce qu’ils déploient.
Alignement avec les standards existants
L’équipe “Prerequisites” du projet fait un travail de fond pour analyser les standards SBOM existants et voir comment ils s’adaptent à l’IA :
- CycloneDX 1.6 : format privilégié, OWASP CycloneDX collabore directement pour définir le format AIBOM et ses attributs
- SPDX 3.0 : analysé pour ses capacités de représentation des assets IA
Trois domaines clés où les standards actuels doivent évoluer pour l’IA ont été identifiés :
- Architecture (modèle) : représentation des paramètres, architectures, quantification
- Data (provenance/intégrité) : versioning des datasets, traçabilité des sources
- Risques/Gouvernance : évaluation des biais, conformité réglementaire
L’outil AIBOM Generator
Présenté au RSAC 2025, l’AIBOM Generator est un outil open-source capable de générer automatiquement un AIBOM pour des modèles hébergés sur Hugging Face. C’est le premier outil de ce type, et il est maintenant référencé dans le CycloneDX Tool Center.
Ce que fait l’outil :
- Extraction automatique des métadonnées du modèle
- Évaluation du score de complétude
- Vérification des champs IA pertinents
- Structuration au format CycloneDX
L’équipe travaille en parallèle sur l’OWASP AIBOM Generation Handbook, un guide documentant les mappings de champs, l’alignement avec les standards et les pratiques recommandées pour utiliser les AIBOMs dans les workflows de gouvernance, conformité et incident response.
Pourquoi c’est important maintenant
L’IA s’intègre partout — dans les agents IA, dans les pipelines CI/CD, dans les applications métier. Sans traçabilité, on avance à l’aveugle. Et quand un modèle fait une bêtise (biais, fuite de données sensibles, comportement inattendu), l’absence d’AIBOM rend le forensic quasi impossible.
Les régulateurs commencent à s’y intéresser sérieusement — l’EU AI Act va dans cette direction avec ses exigences de documentation. Avoir un standard OWASP en place, c’est anticiper ces obligations.
Pour aller plus loin
- Site officiel : owaspaibom.org
- OWASP GenAI AI SBOM Initiative : genai.owasp.org/ai-sbom-initiative
- AIBOM Generator sur GitHub