L’IA bouleverse la cybersécurité : entre nouvelle arme et crise de confiance

Alex Stamos, chief security officer de Cognition et professeur au Stanford Cyber Policy Center, décrit la situation comme un « dark age » numérique. Selon lui, l’industrie de la cybersécurité, qui pesait plusieurs milliards de dollars, est dépassée par la vitesse à laquelle l’intelligence artificielleIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. automatise la découverte et l’exploitation des vulnérabilités. Ce phénomène ne concerne plus seulement des groupes très spécialisés ; il s’étend à un public plus large, y compris des acteurs étatiques comme la Russie ou la Corée du Nord.

Une chaîne de destruction automatisée

Traditionnellement, un attaquant passe des semaines, voire des mois, à identifier une faille, à coder un exploit et à préparer une campagne ciblée. L’IA inverse ce processus : un modèle entraîné peut scanner des centaines de services en temps réel, détecter des failles et générer du code malveillant en quelques secondes. Stamos cite l’exemple de l’outil chinois ARTEX, disponible en open source sur GitHub, qui, lorsqu’il est couplé à un modèle de type GLM‑5.3, a déjà permis de compromettre plus de deux cents entreprises, dont trois banques sud‑coréennes. Le fait que le code soit téléchargeable librement rappelle les débuts des années 1990, où quelques dizaines d’experts pouvaient déjà mettre en danger des systèmes massifs.

Des attaques en cascade

Le dernier mois a montré à quel point ces outils peuvent créer des effets domino. Le piratage de la société Fireworks, fournisseur d’API d’IA, a débouché sur le vol de clés d’accès. Ces clés ont été réutilisées pour infiltrer la plateforme Cursor, qui a ensuite diffusé un plugin malveillant à environ 5 000 entreprises clientes. Chaque compromission ouvre la porte à de nouvelles escalades : vol de données, sabotage de services ou extorsion de crypto‑actifs. Stamos décrit cet enchaînement comme le « kill chain » automatisé, où chaque étape – repérage, exploitation, exfiltration – est prise en charge par un système d’IA.

Un paysage économique en mutation

Autrefois, les acteurs de la cybersécurité pouvaient être rémunérés par des programmes de bug bounty ou par des contrats de défense lors d’événements comme DEF CON. Aujourd’hui, le coût d’accès à des outils d’attaque a chuté, tandis que le potentiel de gains – notamment via le ransomware ou le vol de cryptomonnaies – a explosé. Le modèle économique s’inverse : il devient plus rentable d’investir dans des capacités offensives que de payer pour la protection d’un petit nombre d’organisations.

Quelles réponses possibles ?

Stamos ne voit pas de solution miracle. Il estime que nous vivons une période de « dark age » temporaire, le temps que les acteurs légitimes développent des contre‑mesures basées elles‑aussi sur l’IA. Parmi les pistes évoquées figurent : l’utilisation de modèles de détection en temps réel capables d’identifier des comportements anormaux, le renforcement des audits de code open source et la mise en place de cadres légaux plus stricts pour encadrer la diffusion d’outils de hacking. Cependant, la frontière entre recherche légitime et usage malveillant demeure floue, surtout lorsque les modèles sont publiés sans restriction.

Vers une nouvelle ère de vigilance

Pour les entreprises, la leçon est claire : les pratiques de sécurité classiques – changement de mot de passe, gestion des comptes – ne suffisent plus. Il faut investir dans la résilience : sauvegardes fréquentes, segmentation du réseau et, surtout, une surveillance continue alimentée par l’IA. Les organisations qui ne s’adaptent pas risquent de devenir les prochaines cibles d’une chaîne d’attaque automatisée.

En fin de compte, l’IA ne crée pas la menace, elle l’amplifie. Le défi pour les défenseurs sera de transformerTransformerArchitecture de réseau neuronal reposant notamment sur des mécanismes d'attention pour traiter des séquences de données. la même technologie en bouclier, avant que la vague d’attaques automatisées ne devienne la norme.