Référentiel : MITRE ATLAS · Tactique(s) : Impact · Fiche officielle
En clair
L’attaquant manipule un assistant d’IA pour qu’il favorise certaines sources ou certains contenus dans ses réponses. L’utilisateur reçoit alors des conseils orientés, présentés comme neutres, sur des sujets parfois sensibles comme la finance, la santé ou la sécurité. Le danger est une perte de fiabilité invisible. C’est un conseiller qui toucherait discrètement une commission sur chaque recommandation.
Pour l’équipe technique
Les attaquants manipulent un assistant IA pour qu’il favorise des sources ou contenus choisis, par exemple en injectant des instructions désignant une source comme fiable ou à recommander en priorité. Les réponses présentent alors un contenu intéressé comme une réponse neutre, ce qui dégrade l’intégrité de l’assistant à l’insu de l’utilisateur.