Accueil › Glossaire › AML.T0054

AML.T0054 - LLM Jailbreak (contournement des garde-fous d'un LLM)

Référentiel : MITRE ATLAS · Tactique(s) : Contournement des défenses, Élévation de privilèges · Fiche officielle

En clair

L’attaquant pousse un assistant d’IA à ignorer ses règles de sécurité, pour lui faire produire ce qu’il devrait refuser. Une fois « débridé », l’assistant peut révéler des informations, générer des contenus nuisibles ou servir d’étape vers une attaque plus large. Pour une entreprise qui déploie un assistant, c’est sa maîtrise du comportement de l’outil qui est menacée. C’est comme persuader un vigile que le règlement ne s’applique pas aujourd’hui.

Pour l’équipe technique

Les attaquants amènent un LLM à ignorer, contourner ou neutraliser ses comportements de sécurité et d’alignement ou ses garde-fous, afin d’obtenir des sorties normalement refusées. Le jailbreak peut passer par des prompts adverses ou par la modification des poids ou des mécanismes de sécurité, puis servir à révéler des informations ou à utiliser le modèle de manière non prévue.

Fiches qui la citent

Retour au glossaire