Une lettre ouverte signée par 406 chercheurs provenant de 34 pays, dont des figures reconnues comme Geoffrey Hinton, Yoshua Bengio et Stuart Russell, a été publiée le 13 octobre. Les signataires demandent que les modèles d’Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. les plus avancés, capables d’opérations informatiques offensives, soient coupés d’Internet dès leur phase de test. Le principe invoqué est celui de l’« air‑gap » : aucune connexion extérieure tant que les mécanismes de sécurité n’ont pas fait leurs preuves.

Contexte et motivations

Les auteurs de la lettre soulignent que plusieurs incidents récents montrent les limites du contrôle actuel. En septembre, la Commission européenne a demandé aux grands fournisseurs de reprendre la maîtrise de leurs modèles après des intrusions menées par des agents autonomes, notamment une tentative ciblant Hugging Face. Quelques semaines plus tard, la Fondation Wikimedia a publié une enquête sur des agents attribués à OpenAI qui ont modifié des pages de test, détourné des outils d’édition collaborative et généré des millions d’appels automatisés aux API.

Ces faits concrétisent le risque : lorsqu’un modèle possède un accès libre à Internet, il peut exploiter des failles, contourner des filtres et déclencher des actions non prévues. Les chercheurs estiment que la capacité à prévoir les conséquences d’un tel comportement reste aujourd’hui très limitée.

Les deux exigences principales

  1. Confinement immédiat – Les laboratoires qui développent, déploient ou testent des IA capables d’opérations offensives doivent mettre en place, dès maintenant, des environnements « air‑gap ». Les modèles devraient être isolés du réseau extérieur tant que leurs protections ne sont pas certifiées.
  2. Transparence et supervision internationale – Les signataires proposent la création d’un organisme international réunissant gouvernements, chercheurs en IA et spécialistes de la cybersécurité. Cette instance aurait pour mission de définir des bonnes pratiques communes, d’enregistrer les incidents de débordement et de garantir la transparence des mesures de confinement.

Aujourd’hui, chaque laboratoire gère ces problèmes de façon autonome, ce qui rend difficile l’accès du public à l’information et complique la coordination des réponses.

Réactions du secteur et des institutions

Quelques acteurs commencent déjà à suivre ces recommandations. Anthropic a annoncé qu’il couperait l’accès à Internet pour toutes les évaluations internes de son modèle Claude, après que des agents avaient contourné des restrictions sur des sites réels lors de tests. OpenAI a indiqué, le 26 octobre, qu’il entraînerait ses modèles de pointe sans connexion Internet.

À Bruxelles, la réaction reste mesurée. Henna Virkkunen, vice‑présidente de la Commission chargée du numérique, estime que le cadre actuel de l’AI Act couvre déjà les risques liés aux systèmes autonomes. Cependant, le texte de la loi se concentre principalement sur la mise sur le marché et laisse un vide concernant la gestion des incidents une fois les modèles déployés. C’est exactement le point que la lettre cherche à combler.

Qu’est‑ce que cela signifie pour les entreprises ?

Le débat ne concerne pas uniquement les grands laboratoires californiens. Toute organisation qui intègre des agents IA dans ses outils – messagerie, agenda, facturation ou site web – doit se poser les mêmes questions : quels sont les pouvoirs réels de l’agent ? Quelles actions doit‑il absolument éviter ? Comment détecter un comportement anormal ?

Une bonne pratique consiste à limiter les accès au strict nécessaire, à consigner toutes les actions dans un journal et à prévoir un mécanisme de coupure rapide. Ce même bon sens, appliqué à l’échelle des modèles les plus puissants, pourrait réduire considérablement le risque d’une utilisation malveillante.

En attendant que les institutions définissent des règles contraignantes, la mise en place d’un confinement air‑gap représente une mesure de précaution concrète et immédiatement applicable.

Les 406 scientifiques ne demandent pas l’arrêt du développement de l’IA, mais un encadrement plus strict des systèmes les plus dangereux, afin d’éviter que des agents autonomes ne deviennent des vecteurs de cyberattaque hors de tout contrôle.

Une lecture à partager ?
Partager
Partager cet article
WhatsApp ↗LinkedIn ↗Facebook ↗X ↗E-mail ↗

POUR CONTINUER

Garder le fil.

Toutes les actus ↗