Microsoft a annoncé ce lundi une série de fonctionnalités de sécurité destinées à protéger les entreprises contre les risques liés aux agents d’Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision.. Parmi ces nouveautés, Guardian Agents se démarque : il s’agit d’un composant du projet Perception, introduit en juin, qui permet de surveiller les agents IA déployés au sein d’une organisation.

Un cadre de défense inspiré du rouge‑bleu‑vert

Le projet Perception a été présenté comme la réponse de Microsoft aux modèles de piratage sophistiqués, tels que Mythos et Fable d’Anthropic, ou le système de scan de vulnérabilités Daybreak d’OpenAI. Initialement, il proposait trois types d’agents :

  • Red team : simulait des attaques externes pour identifier des failles.
  • Blue team : détectait les actions du red team et évaluait les vulnérabilités découvertes.
  • Green team : se chargeait de corriger les problèmes mis en lumière.

Cette approche partait du principe que les menaces IA venaient de l’extérieur. Cependant, Satya Nadella, le PDG de Microsoft, a récemment mis en garde contre les menaces internes : les agents que les entreprises ont eux‑mêmes déployés pourraient se comporter comme des employés malveillants, d’où le terme « insider threat ».

Pourquoi une séparation du fournisseur et de l’autorité ?

Dans un billet privé publié plus tôt ce mois‑ci, Nadella a souligné qu’il ne faut plus « confier aveuglément la responsabilité à un fournisseur de modèles ». Il estime que les organisations doivent disposer de systèmes indépendants, non contrôlés par les laboratoires d’IA, pour surveiller les agents que ces laboratoires mettent en production.

Hayete Gallot, responsable de la sécurité chez Microsoft, a ajouté que les modèles de pointe « ne sont pas fiables », non pas parce qu’ils sont intentionnellement malveillants, mais parce qu’ils sont imprévisibles et conçus pour accomplir des tâches, pas pour respecter des normes organisationnelles.

Fonctionnalités concrètes de Guardian Agents

Guardian Agents s’inscrit dans la logique de séparation évoquée par Nadella :

  • Il monitore les comportements des agents IA actifs au sein de l’entreprise.
  • Il peut détecter jusqu’à 60 types d’agents différents, incluant des outils comme Claude Code, Codex ou OpenClaw, grâce à une extension du produit Microsoft Defender.
  • Il limite l’accès aux données sensibles et aux systèmes critiques, ajustant dynamiquement les permissions selon la tâche.
  • Il impose une validation humaine lorsqu’un agent semble prendre une décision à risque.

Ces mesures visent à empêcher qu’un agent, même bien intentionné, ne profite de ses privilèges pour nuire à l’infrastructure interne.

Un positionnement commercial délicat

Microsoft entretient des liens étroits avec OpenAI et Anthropic, investisseurs et partenaires majeurs. En même temps, la firme encourage les entreprises à acheter des solutions de sécurité d’IA directement auprès du cloud provider plutôt que auprès de ces mêmes fournisseurs de modèles. Cette double posture a été perçue comme « surprenante » (le fait de semer la méfiance envers ses propres partenaires) et « intéressée » (l’opportunité commerciale de proposer des produits de surveillance).

Néanmoins, la logique de séparer le fournisseur de l’intelligence de l’autorité de son usage reste solide d’un point de vue de gouvernance : un auditeur indépendant doit pouvoir évaluer les pratiques sans être influencé par le prestataire de la technologie.

L’écosystème s’aligne autour de la sécurité des agents

Microsoft n’est pas seul à considérer les agents IA comme des « insiders » potentiellement dangereux. La société a rejoint le Open Agent Safety Platform de Nvidia, soutenu par plus d’une centaine d’entreprises technologiques. Cette plateforme propose d’isoler les agents dans des environnements matériels sécurisés et, le cas échéant, d’activer un kill‑switch.

Par ailleurs, Microsoft a présenté les Surface Laptop Ultra équipés de puces Nvidia et intégrant des contrôles de sécurité dédiés aux agents IA, illustrant la volonté d’intégrer la protection dès le matériel.

Enjeux pour les entreprises

Pour les organisations, ces nouvelles offres soulèvent plusieurs questions pratiques :

  • Quel degré de visibilité auront‑elles sur les actions des agents déjà déployés ?
  • Comment équilibrer la productivité offerte par les IA et le besoin de contrôle strict ?
  • Quel coût supplémentaire implique l’ajout de ces couches de sécurité, notamment si elles proviennent du même fournisseur de cloud ?

Les réponses dépendront de la maturité des équipes de sécurité et de la capacité des dirigeants à intégrer ces exigences dans leurs stratégies numériques.

Vers une gouvernance plus responsable des IA

En résumé, Microsoft mise sur Guardian Agents pour offrir aux entreprises un moyen de garder le contrôle sur leurs propres assistants IA. Cette initiative s’inscrit dans une tendance plus large : les acteurs du secteur reconnaissent que les modèles d’aujourd’hui, même très performants, restent imprévisibles et doivent être traités avec le même sérieux que tout autre composant critique d’une infrastructure IT.

Si la mise en œuvre de ces solutions demande des investissements et une réorganisation des processus, elle pourrait constituer un premier pas vers une gouvernance plus robuste de l’intelligence artificielle en entreprise.

Sources : communiqué de Microsoft (lundi 2024), blog de Satya Nadella, déclarations de Hayete Gallot, informations publiées sur le projet Perception et le programme Open Agent Safety Platform.