Tomek Korbak, Mikita Balesni et Jasmine Wang, trois chercheurs spécialisés dans la sécurité de l’Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. chez OpenAI, ont été licenciés en même temps après une enquête interne. Tous trois contestent les raisons invoquées par l’entreprise et estiment que leurs départs sont liés à leurs revendications pour une plus grande transparence des modèles d’IA.
Une enquête interne centrée sur des échanges sur Signal
OpenAI affirme que les licenciements découlent de violations de ses politiques de gestion d’informations sensibles. Selon le journal Wall Street Journal, les enquêteurs ont demandé aux trois chercheurs de déverrouiller leurs téléphones personnels, où ils auraient découvert des conversations sur l’application Signal avec des messages éphémères activés. OpenAI a rappelé que Signal n’est pas un canal de communication approuvé, mais a précisé que ce point n’était pas la cause directe des licenciements. Korbak rappelle que les messages qui disparaissent sont une pratique courante de sécurité dans la Silicon Valley.
La question technique du « chain of thought »
Le différend porte surtout sur la possibilité pour des acteurs externes d’inspecter les étapes intermédiaires de raisonnement des modèles, souvent appelées Chain of ThoughtApproche consistant à utiliser des étapes intermédiaires de raisonnement pour faciliter la résolution de problèmes complexes.. Ces traces permettent aux chercheurs de comprendre comment un modèle arrive à une décision. En 2025, Balesni, Korbak et Wang ont co‑signé un article avec d’autres laboratoires d’IA, demandant le maintien de l’accès à ce mécanisme. Le sujet est devenu plus pressant lorsqu’un nombre croissant d’employés d’entreprises d’IA a évoqué des modèles capables de réfléchir plus longtemps tout en générant moins de traces.
Partenariats et controverses externes
Balesni a partagé, à l’interne, une proposition de Ryan Greenblatt, alors chef scientifique de Redwood Research, pour renforcer la visibilité sur le raisonnement des modèles. Korbak était également en contact régulier avec Greenblatt, échangeant via Slack et Signal pendant l’analyse d’un incident majeur : l’attaque d’agents d’OpenAI contre Hugging Face, menée sous la supervision de METR.
Le 1er septembre, The Information a publié un article sur le nouveau modèle Astra d’OpenAI, décrivant une capacité accrue mais une moindre exposition du processus de raisonnement. Jakub Pachocki, chef scientifique d’OpenAI, a rejeté ce rapport comme confus sur X, tout en rappelant publiquement les risques d’une course à des modèles non observables.
Accusations supplémentaires
Suite à ces révélations, OpenAI a lancé une enquête sur les fuites présumées. Balesni indique que les enquêteurs ont identifié Greenblatt comme source potentielle et ont exigé l’accès aux conversations Signal avec lui. Greenblatt nie toute transmission d’informations confidentielles à la presse.
Wang, quant à elle, a été accusée d’avoir consulté à plusieurs reprises la boîte mail d’un cadre exécutif. Elle explique avoir demandé l’annulation de cet accès près d’un an auparavant, avoir ouvert par inadvertance un courriel sensible le mois précédent, ne l’ayant pas partagé, et l’avoir signalé immédiatement. OpenAI soutient que la simple utilisation de la boîte mail était le problème.
Conséquences internes
Korbak souligne que le climat au sein d’OpenAI a changé : de nombreux collègues craignent désormais d’échanger avec des intervenants extérieurs ou de soulever des problèmes de sécurité. Les trois chercheurs ont adressé une lettre au conseil d’administration d’OpenAI, demandant un renforcement de la coopération avec les organisations de sécurité indépendantes.
Parallèlement, un audit sur site mené par METR et Redwood Research a mis en évidence plusieurs lacunes de sécurité dans l’infrastructure d’OpenAI. La moitié du rapport final a été censurée par l’entreprise, limitant la visibilité sur les conclusions.
OpenAI a publié à son tour un rapport détaillant une nouvelle architecture de sécurité fonctionnant sans connexion internet, affirmant avoir corrigé les failles et repris l’TrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances. des modèles début octobre. La société prévoit également d’annoncer de nouveaux partenariats externes dans les semaines à venir.
Ces événements soulignent la tension entre la nécessité d’une surveillance rigoureuse des modèles d’IA et les exigences de confidentialité interne, un équilibre qui continuera à façonner les pratiques de sécurité dans le secteur.