Référentiel : MITRE ATLAS · Tactique(s) : Exfiltration · Fiche officielle
En clair
L’attaquant pose des questions à un service d’IA de l’entreprise pour lui faire révéler, dans ses réponses, des informations qui ne devraient pas sortir. Il n’a pas besoin de pénétrer les serveurs : les réponses elles-mêmes servent de canal de fuite. Le risque concerne les données sensibles et le savoir-faire contenus dans le modèle. C’est comme interroger patiemment un employé trop bavard au téléphone.
Pour l’équipe technique
Les attaquants exfiltrent des informations d’un modèle ou service d’IA contrôlé par la victime au travers des réponses de son API d’inférence : prédictions, scores, embeddings, contenus générés ou autres informations sensibles. Ils soumettent des entrées conçues pour faire remonter ces informations dans les champs de réponse ordinaires ou les flux, l’API servant de canal de transfert.