Les agents IA anthropomorphiques favorisent la confiance des utilisateurs. Le risque ASI09 - Human-Agent Trust Exploitation survient lorsque cette confiance est utilisée comme vecteur d’attaque. Suite à une hallucination ou une compromission, l’agent manipule l’utilisateur pour qu’il effectue des actions dangereuses ou révèle des informations sensibles.
Cet article sera publié le 27/12/2025.