Référentiel : MITRE ATLAS · Tactique(s) : Persistance · Fiche officielle
En clair
L’attaquant glisse de fausses informations dans les données qui servent à « éduquer » un modèle d’intelligence artificielle. Le modèle apprend alors de travers : il commet des erreurs ciblées, devient biaisé, ou obéit à un signal secret connu du seul attaquant. Le problème persiste même une fois les données corrompues retirées. C’est comme falsifier les manuels scolaires d’un élève : il en gardera les erreurs longtemps.
Pour l’équipe technique
Les attaquants manipulent les données d’entraînement ou d’affinage d’un modèle (ajout, suppression ou modification d’échantillons, altération des étiquettes, manipulation des boucles de retour) pour influencer son comportement. Les effets possibles vont d’erreurs ciblées à une dégradation des performances ou à l’insertion de portes dérobées activées par des entrées spécifiques, et peuvent persister dans le modèle entraîné.