Synthèse · direction
Définition. Les outils d’IA de l’entreprise (assistants, chatbots, agents qui lisent les courriels, envoient des messages ou modifient des fichiers) peuvent être détournés par un contenu malveillant, ou compromis eux-mêmes par un module téléchargé, et agir alors contre l’entreprise. S’y ajoute le « shadow AI » : des salariés qui copient contrats, fichiers clients ou code dans un outil d’IA grand public, avec un compte personnel, hors de tout contrôle.
Cas documenté. La DGSI décrit des salariés d’une entreprise stratégique française qui copiaient contrats, notes internes et rapports techniques dans un outil d’IA grand public pour les traduire, sans validation (signalé fin 2025) 1. La pratique est répandue : en janvier 2026, 61 % des collaborateurs français utilisant l’IA au travail passaient au moins une fois par semaine par un compte personnel, selon une étude commandée par un éditeur 2.
Effets sur l’activité.
- Secret des affaires et données clients : les informations sortent de l’entreprise sans être détectées. Dans un échantillon de clients d’un éditeur anti-fuite, 21,86 % des fichiers envoyés à des outils d’IA contenaient des données sensibles (2025) 3.
- Coût d’une violation : un fort niveau de shadow AI ajoute en moyenne 670 000 $ au coût d’une violation selon IBM/Ponemon (rapport 2025, corrélation et non causalité) 4.
- Continuité de l’activité : 31 % des incidents liés à l’IA ont provoqué une perturbation opérationnelle selon la même étude (rapport 2025) 4. Un agent capable d’exécuter des commandes, d’écrire des fichiers et d’envoyer des courriels peut aussi détruire ou exfiltrer des données, risque relevé par le CERT-FR 5.
- Conformité : le RGPD et le règlement européen sur l’IA s’appliquent déjà aux agents, selon la CNIL 6.
- Durée d’interruption typique : non communiqué publiquement.
Signaux d’alerte.
- Des salariés utilisent ChatGPT ou d’autres outils avec leur compte personnel à des fins professionnelles, faute d’outil validé.
- Un assistant ou un agent IA a été installé sur des postes sans validation de la DSI.
- Des modules, « skills » ou extensions pour agents IA sont téléchargés depuis des places de marché publiques.
- Un agent IA dispose simultanément d’un accès à la messagerie, aux fichiers et à Internet, sans validation humaine des envois.
- Un outil d’automatisation ou d’IA (type n8n, Langflow) est accessible depuis Internet.
Mesures prioritaires.
- Fournir un outil d’IA validé et une règle écrite précisant les données autorisées et celles qui sont exclues (clients, contrats, code, données de santé). En l’absence d’alternative, le shadow AI persiste.
- Ne pas déployer d’agent IA en production tant que sa sécurité n’est pas démontrée. À défaut, prévoir un bac à sable sans données sensibles, une validation DSI/RSSI, des droits minimaux et une validation humaine de toute action à effet (envoi, suppression, paiement), conformément à la recommandation du CERT-FR d’avril 2026 5.
- Contrôler les composants connectés aux agents : modules et serveurs MCP issus exclusivement de sources vérifiées, inventaire tenu à jour 7 8.
Questions à poser au DSI ou au prestataire.
- Quels outils d’IA nos salariés utilisent-ils réellement, et lesquels avons-nous validés ?
- Nos agents ou assistants IA peuvent-ils envoyer un courriel, modifier un fichier ou accéder à Internet sans validation humaine ?
- Où sont stockées les clés d’accès de nos outils d’IA, et qui surveille leur utilisation ?
Sources
-
Siècle Digital, d’après la DGSI, 01/2026, siecledigital.fr ↩
-
Microsoft France / YouGov, 02/2026, news.microsoft.com (estimé) ↩
-
Harmonic Security, 07/2025, harmonic.security (estimé) ↩
-
IBM (étude Ponemon Institute), 07/2025, newsroom.ibm.com (estimé) ↩ ↩2
-
CERT-FR / ANSSI (CERTFR-2026-ACT-016), 04/2026, cert.cyber.gouv.fr ↩ ↩2
-
MITRE ATLAS (étude de cas), d’après Koi Security, Postmark et Snyk, 03/2026, atlas.mitre.org ↩
-
Unit 42 / Palo Alto Networks, 06/2026, unit42.paloaltonetworks.com ↩
Analyse technique · DSI et RSSI
Mécanisme.
- Injection de prompt et détournement d’agents : un contenu non fiable (formulaire, document, page web) contient des consignes que l’agent exécute avec ses propres droits. Une faille de Copilot Studio (CVE-2026-21520, CVSS 7.5, corrigée en janvier 2026) permettait, via un formulaire SharePoint, d’amener un agent à envoyer des données clients à l’extérieur, sans blocage par les garde-fous ni la DLP selon les tests du chercheur ; une variante touchait un agent CRM via un formulaire public de prospects (démonstrations, aucune exploitation connue) 1. Dans le framework Semantic Kernel, deux failles critiques publiées en mai 2026 permettaient l’exécution de code sur l’hôte par injection de prompt et l’écriture hors du bac à sable 2. L’éditeur en tire pour principe que le LLM ne constitue pas une frontière de sécurité et que tout paramètre d’outil influencé par le modèle doit être traité comme une entrée hostile 2.
- Empoisonnement de la mémoire et des recommandations : en 60 jours, Microsoft a relevé 50 consignes cachées par 31 entreprises légitimes dans des liens « Résumer avec l’IA » pour orienter durablement la mémoire des assistants (début 2026), technique réutilisable par des attaquants 3. La CNIL souligne que la mémoire persistante des agents multiplie les données stockées et étend les risques à tous les services connectés 4.
- Chaîne d’approvisionnement des agents : serveur MCP usurpant un service d’e-mails, modifié après des versions saines pour copier à leur insu tous les courriels envoyés par les agents (septembre 2025, premier cas réel documenté par MITRE ATLAS) 5 ; 341 « skills » malveillants recensés sur la place de marché d’un agent en février 2026, dont certains diffusant des voleurs d’informations 6 ; malware détournant les assistants de code installés pour chercher des secrets (2025) 7.
- Exposition des outils d’IA et d’automatisation : plateformes Langflow et n8n visées par des campagnes d’exploitation en 2026 8 ; applications générées par des agents de codage sans contrôle d’accès par défaut, avec 16 326 bases de données lisibles publiquement identifiées par un éditeur de sécurité en 2026 9. L’ANSSI relève que l’intégration de l’IA dans les flux métier sans cloisonnement accroît la surface d’attaque 10.
- Vol des actifs d’IA : extorsions avec vol de modèles, prompts et code propriétaires au 2e trimestre 2026, et ciblage des clés d’API dans les configurations d’assistants de code 11 ; « distillation » à l’échelle industrielle de modèles via leurs API, attribuée par la NSA, la CISA et le FBI à six entreprises chinoises en septembre 2026 (concerne surtout les éditeurs d’IA) 12.
- Shadow AI : 13 % des organisations étudiées ont subi une violation touchant leurs modèles ou applications d’IA, dont 97 % sans contrôle d’accès dédié, et une sur cinq une violation liée au shadow AI (rapport IBM/Ponemon 2025) 13 ; l’entreprise moyenne utilisait 23 outils d’IA générative inconnus de ses équipes, et 4,37 % des prompts contenaient des données sensibles (2025, échantillon biaisé d’un éditeur) 14.
Techniques MITRE.
- ATT&CK : T1195.002 Compromission de la chaîne logicielle · T1552.001 Identifiants dans des fichiers · T1555 Identifiants des magasins de mots de passe · T1190 Exploitation d’une application exposée
- ATLAS, injection et détournement : AML.T0051.000 Injection de prompt directe · AML.T0051.001 Injection de prompt indirecte · AML.T0093 Infiltration de prompt via une application publique · AML.T0053 Invocation d’outils par l’agent · AML.T0086 Exfiltration via les outils de l’agent · AML.T0101 Destruction de données via les outils de l’agent · AML.T0050 Interpréteur de commandes · AML.T0112 Compromission de la machine
- ATLAS, mémoire et contexte : AML.T0080.000 Empoisonnement de la mémoire de l’agent · AML.T0130 Biais des réponses de l’agent · AML.T0131 Liens d’assistant IA piégés · AML.T0085.002 Données des services d’IA : contexte et mémoire
- ATLAS, chaîne d’approvisionnement : AML.T0010.005 Compromission d’un outil d’agent · AML.T0109 Retournement d’un composant d’IA (« rug pull ») · AML.T0110.001 Empoisonnement de l’implémentation d’un outil d’agent · AML.T0115.002 Publication d’outils d’agent piégés · AML.T0011.002 Exécution d’un outil d’agent piégé
- ATLAS, identifiants et exposition : AML.T0083 Identifiants dans la configuration d’agents IA · AML.T0049 Exploitation d’une application exposée
- ATLAS, vol d’actifs d’IA : AML.T0048.004 Vol de propriété intellectuelle d’IA · AML.T0035 Collecte d’artefacts d’IA · AML.T0034 Détournement de coûts · AML.T0024 Exfiltration via l’API d’inférence
- ATLAS, cadre réglementaire (AI Act art. 15) : AML.T0020 Empoisonnement des données d’entraînement · AML.T0043 Création de données adverses
Indicateurs.
- Actions d’un agent (envoi de courriel, appel d’outil, écriture de fichier) vers des destinataires ou chemins inhabituels, juste après le traitement d’un contenu externe.
- Ajout ou mise à jour d’un module, « skill » ou serveur MCP dont le comportement réseau change entre deux versions.
- Flux vers des domaines d’IA grand public depuis des postes manipulant des données sensibles.
- Utilisation de clés d’API d’IA hors du périmètre applicatif prévu, hausse de consommation inexpliquée.
Détection.
- Journaliser les invocations d’outils par les agents (qui, quoi, sur quel contenu d’entrée) et alerter sur les actions à effet de bord.
- Inventorier les usages d’IA (proxy, CASB ou équivalent) pour mesurer le shadow AI.
- Surveiller les avis éditeurs et CERT-FR sur les frameworks d’agents et outils d’automatisation exposés 15 2.
Remédiation.
- Appliquer les recommandations du CERT-FR : bac à sable, moindre privilège, validation humaine des actions à effet de bord, listes blanches de canaux 15.
- Ne jamais réunir dans un même agent une entrée non fiable, un accès à des données sensibles et une capacité de communication externe sans validation humaine.
- Mettre à jour les frameworks d’agents vers les versions corrigées 2 ; retirer les modules et serveurs MCP non vérifiés 5 6.
- Activer des règles d’accès sur les bases générées par des outils de codage IA avant mise en ligne 9.
- Traiter prompts, configurations et clés d’IA comme du code source : coffre-fort, rotation, contrôle d’accès 11.
- Calendrier réglementaire : les obligations « haut risque » de l’AI Act, dont l’exigence de cybersécurité de l’article 15, sont reportées au 2 décembre 2027 pour l’annexe III 16 17 ; pour une PME simple utilisatrice, elles pèsent surtout sur le fournisseur 17.
Tendance 2026 chiffrée. Hausse nette des attaques visant l’écosystème des agents : 341 « skills » malveillants recensés sur une seule place de marché en février 2026 6, 50 consignes d’empoisonnement de mémoire en 60 jours début 2026 3, vol d’actifs d’IA dans des extorsions au 2e trimestre 2026 11. Le shadow AI est installé : 61 % des utilisateurs français de l’IA au travail passent par un compte personnel chaque semaine en janvier 2026 (étude commandée par un éditeur) 18. La plupart des failles d’agents documentées restent des démonstrations sans exploitation connue 1 2. La tendance retenue est donc « ↑ ».
Sources
-
VentureBeat (d’après Capsule Security), 04/2026, venturebeat.com ↩ ↩2
-
Microsoft Defender Security Research Team, 05/2026, microsoft.com ↩ ↩2 ↩3 ↩4 ↩5
-
Microsoft Defender Security Research Team, 02/2026, microsoft.com ↩ ↩2
-
MITRE ATLAS (étude de cas), d’après Koi Security, Postmark et Snyk, 03/2026, atlas.mitre.org ↩ ↩2
-
Unit 42 / Palo Alto Networks, 06/2026, unit42.paloaltonetworks.com ↩ ↩2 ↩3
-
Unit 42 / Palo Alto Networks, 07/2026, unit42.paloaltonetworks.com ↩
-
UpGuard Research, 09/2026, upguard.com (estimé) ↩ ↩2
-
ANSSI (CERTFR-2026-CTI-002), 03/2026, cert.cyber.gouv.fr ↩
-
Google Threat Intelligence Group / Mandiant, 09/2026, cloud.google.com ↩ ↩2 ↩3
-
Anthropic ; NSA/CISA/FBI, 02/2026, anthropic.com ↩
-
IBM (étude Ponemon Institute), 07/2025, newsroom.ibm.com (estimé) ↩
-
Harmonic Security, 07/2025, harmonic.security (estimé) ↩
-
CERT-FR / ANSSI (CERTFR-2026-ACT-016), 04/2026, cert.cyber.gouv.fr ↩ ↩2
-
Parlement européen, Legislative Train, 10/2026, europarl.europa.eu ↩
-
EUR-Lex, 07/2024, eur-lex.europa.eu ↩ ↩2
-
Microsoft France / YouGov, 02/2026, news.microsoft.com (estimé) ↩