Référentiel : MITRE ATLAS · Tactique(s) : Contournement des défenses, Élévation de privilèges · Fiche officielle
En clair
L’attaquant pousse un assistant d’IA à ignorer ses règles de sécurité, pour lui faire produire ce qu’il devrait refuser. Une fois « débridé », l’assistant peut révéler des informations, générer des contenus nuisibles ou servir d’étape vers une attaque plus large. Pour une entreprise qui déploie un assistant, c’est sa maîtrise du comportement de l’outil qui est menacée. C’est comme persuader un vigile que le règlement ne s’applique pas aujourd’hui.
Pour l’équipe technique
Les attaquants amènent un LLM à ignorer, contourner ou neutraliser ses comportements de sécurité et d’alignement ou ses garde-fous, afin d’obtenir des sorties normalement refusées. Le jailbreak peut passer par des prompts adverses ou par la modification des poids ou des mécanismes de sécurité, puis servir à révéler des informations ou à utiliser le modèle de manière non prévue.