Référentiel : MITRE ATLAS · Tactique(s) : Accès au modèle d’IA · Fiche officielle
En clair
L’attaquant utilise tout simplement l’accès normal à un service d’IA, comme n’importe quel client. Cet accès légitime lui permet d’observer le modèle, de tester ses attaques et de lui soumettre des données piégées. Le danger tient au fait que rien ne distingue d’emblée cet usage d’un usage ordinaire. C’est comme un faux client qui fréquente un magasin pour en étudier les failles.
Pour l’équipe technique
Les attaquants accèdent à un modèle via un accès légitime à son API d’inférence. Cet accès peut servir à recueillir des informations sur le modèle, à préparer et vérifier une attaque (création de données adverses) ou à introduire des données visant un impact, comme l’évasion du modèle ou l’érosion de son intégrité.