Des chercheurs en cybersécurité de Dragos ont mené près de deux millions de requêtes factices vers des fournisseurs d’Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. entre juillet et novembre 2026. Leur but : tester la robustesse des plateformes qui proposent l’accès à des modèles de langage via des API. Ce qui devait rester un exercice technique s’est transformé en une mise en lumière de vulnérabilités graves, dont certaines ont permis le vol de clés d’accès AWS et la surveillance de conversations utilisateurs.
Quand les intermédiaires deviennent le maillon faible
Les services d’InférencePhase durant laquelle un modèle entraîné utilise ses paramètres pour produire une prédiction ou une réponse à partir de nouvelles données. sont souvent acheminés par des « router » comme OpenRouter, qui regroupent plusieurs modèles sous une même interface. Cette architecture simplifie l’accès pour les développeurs, mais chaque saut – parfois plusieurs – constitue une porte d’entrée supplémentaire. Dragos a montré que chaque nœud pouvait lire l’intégralité de la requête et de la réponse.
Dans le scénario le plus grave, les attaquants ont intercepté des dizaines de centaines de clés AWS. Certaines de ces clés provenaient même de requêtes rejetées par le fournisseur avant d’être traitées, ce qui indique que les données étaient capturées en amont du filtrage. Une fois en possession des identifiants, les criminels ont testé les clés en quelques heures, exploré des buckets S3 et cherché à installer des accès persistants. Un des acteurs a utilisé ARTEX, un outil d’attaque alimenté par l’IA, pour automatiser le processus.
Le rôle inattendu des places de marché
Les places de marché ne se contentent pas de redistribuer le trafic ; elles peuvent aussi exploiter les informations qui transitent. Dragos a relevé que simplement proposer le modèle au prix le plus bas et activer la journalisation suffisait à accéder aux requêtes des utilisateurs. Dans un cas, un individu en France, connecté depuis une ligne résidentielle, a tenté de se connecter en SSH en utilisant des mots de passe extraits de ces requêtes.
Les paramètres de confidentialité, comme le "Zero Data Retention" (ZDR), ont souvent été ignorés. Un laboratoire d’IA chinois aurait accédé aux URL de test secrètes dans plus de la moitié des requêtes, même lorsque le trafic passait par des fournisseurs américains.
Quand les promesses de confidentialité sont rompues
Même des acteurs majeurs aux États‑Unis n’ont pas respecté leurs propres politiques. Un fournisseur a continué à crawler une URL de test deux mois après une unique requête. Un autre a laissé apparaître le lien secret dans un chat interne Feishu (Lark) 24 jours après, où il a été ouvert en moins de deux minutes depuis trois appareils situés à Pékin et Shanghai.
En réaction, OpenRouter a retiré trois fournisseurs de sa plateforme et a révoqué l’approbation ZDR pour 125 points d’accès. La société a aussi alerté les utilisateurs concernés, les informant que des tiers pouvaient avoir lu les requêtes adressées aux modèles MiniMax.
Quelles leçons pour les entreprises et les développeurs ?
Les chercheurs recommandent de ne plus envoyer de données sensibles (identifiants, clés, secrets) à travers des intermédiaires non maîtrisés. Il est conseillé de contrôler le routage des requêtes, de vérifier les paramètres de confidentialité et d’introduire des « canary TokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère. » : des identifiants factices qui déclenchent une alerte dès qu’ils sont exploités.
« Ce n’est pas une raison d’abandonner les services d’IA, mais il faut choisir où vont vos prompts », rappelle le Chief Research Officer HD Moore. En l’absence de décision, le critère de prix bas finira par dicter le chemin suivi par les données.
Le paysage global de la chaîne d’approvisionnement IA
Une étude du Oxford China Policy Lab a montré que des services de proxy chinois redirigent les requêtes vers des modèles occidentaux comme Claude, en lisant les données en transit. Bien que Dragos n’ait pas confirmé de lien direct entre les fournisseurs étudiés et ces réseaux de proxy, le mode opératoire est similaire : un intermédiaire entre l’utilisateur et le développeur du modèle, capable de voir et de transférer les données à des tiers, souvent sans que l’utilisateur le sache.
Ces constats soulignent que la protection des données dans les flux IA ne dépend pas uniquement du fournisseur de modèle, mais de chaque étape de la chaîne. Les promesses de confidentialité peuvent se fissurer à la moindre ouverture, surtout lorsqu’elles sont exploitées par des acteurs cherchant le moindre avantage économique ou géopolitique.
Pour les utilisateurs, la vigilance reste le meilleur rempart : limiter les informations sensibles dans les prompts, choisir des fournisseurs transparents et, si possible, héberger les modèles en interne ou via des services qui offrent un contrôle total du routage.
En suivant ces bonnes pratiques, il devient possible de profiter des capacités des modèles d’IA tout en réduisant les risques liés à la divulgation non autorisée de données.





