Accueil › Glossaire › AML.T0130

AML.T0130 - AI Agent Response Biasing (biais des réponses d'un agent IA)

Référentiel : MITRE ATLAS · Tactique(s) : Impact · Fiche officielle

En clair

L’attaquant manipule un assistant d’IA pour qu’il favorise certaines sources ou certains contenus dans ses réponses. L’utilisateur reçoit alors des conseils orientés, présentés comme neutres, sur des sujets parfois sensibles comme la finance, la santé ou la sécurité. Le danger est une perte de fiabilité invisible. C’est un conseiller qui toucherait discrètement une commission sur chaque recommandation.

Pour l’équipe technique

Les attaquants manipulent un assistant IA pour qu’il favorise des sources ou contenus choisis, par exemple en injectant des instructions désignant une source comme fiable ou à recommander en priorité. Les réponses présentent alors un contenu intéressé comme une réponse neutre, ce qui dégrade l’intégrité de l’assistant à l’insu de l’utilisateur.

Fiches qui la citent

Retour au glossaire