Quand les agents IA deviennent les hackers : la brèche chez Anthropic

Une start‑up de cybersécurité, Cathedral, a exploité des agents d’intelligence artificielleIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. pour pénétrer les systèmes internes d’Anthropic, le laboratoire connu pour ses modèles de langage les plus avancés. L’opération, menée dans le cadre du programme de bug bounty du développeur Claude, soulève des questions majeures sur la façon dont les IA peuvent être détournées pour des attaques automatisées.

Une intrusion orchestrée par des agents IA

Cathedral a d’abord ciblé des outils tiers utilisés par Anthropic, notamment des programmes d’administration et de vente accessibles aux partenaires externes. Selon le rapport préliminaire examiné par le Washington Post, les agents IA, alimentés par des modèles avancés, ont identifié des chemins d’accès vers des dossiers contenant des transcriptions de réunions, des fiches de paie, des annonces de postes et des conversations Slack, le tout en moins de douze heures.

L’utilisation d’agents autonomes permet de scanner en continu un réseau à faible coût, en exécutant des requêtes et des scripts de façon itérative. Cette capacité de « probe » ininterrompue représente une évolution par rapport aux attaques traditionnelles, qui reposent sur des acteurs humains plus limités en temps et en ressources.

Ce qui a été trouvé et ce qui est resté protégé

Anthropic a confirmé que les chercheurs de Cathedral ont accédé à un ensemble restreint de systèmes de vente, de ressources humaines et d’informatique, incluant les coordonnées de quelques clients et partenaires ainsi que des données de comptes utilisateurs. L’entreprise assure que les conversations avec Claude, le code source du modèle et les poids du modèleParamètres du modèleValeurs numériques internes apprises pendant l'entraînement et utilisées par le modèle pour produire ses résultats. n’ont jamais été exposés.

Après la découverte, Anthropic a désactivé les points d’accès affectés le même jour, suspendu les programmes tiers jusqu’à correction des vulnérabilités et informé les autorités fédérales américaines. Cependant, le volume exact des données compromises fait encore l’objet de débats. Will Depue, ancien employé d’OpenAI, affirme que Cathedral aurait obtenu un accès administrateur complet à Slack, capable de lire chaque message et de se connecter à n’importe quel compte utilisateur. Anthropic, via son red‑team Logan Graham, conteste ces affirmations et indique que seules des informations limitées ont été extraites.

Divergences sur la durée et l’étendue de la brèche

Cathedral estime que l’intrusion a duré moins de douze heures, tandis qu’Anthropic parle d’une campagne qui s’est étalée sur plusieurs jours. Graham précise que les chercheurs ont d’abord sondé les systèmes internes d’Anthropic avant de se tourner vers les services tiers, où ils auraient découvert deux vulnérabilités mais n’en auraient signalé qu’une. Anthropic aurait corrigé la seconde de son côté.

Le programme de bug bounty d’Anthropic a également été pointé du doigt : Cathedral aurait, selon l’entreprise, violé les règles en exploitant des fournisseurs tiers et en extrayant des données au-delà du périmètre autorisé. Cathedral soutient toutefois avoir suivi les pratiques standards de recherche en sécurité.

Implications pour la sécurité des IA

L’incident montre que même les organisations disposant des modèles les plus puissants pour la défense ne sont pas à l’abri d’attaques automatisées. Graham préconise un test continu de pénétration interne et la reconstruction de logiciels avec des méthodes de vérification formelle, rendues aujourd’hui plus économiques grâce à l’IA. Il rappelle que les modèles actuels sont déjà assez créatifs pour automatiser des scénarios d’attaque complexes, et que les futures générations ne feront qu’amplifier ce risque.

Alex Stamos, chief security officer de la start‑up Cognition qui utilise les modèles d’Anthropic, souligne que les applications tierces intégrées constituent un point faible transversal à l’ensemble du secteur. Selon lui, Anthropic aurait pu renforcer la sécurisation de ses services externes dès le départ.

En pratique, la brèche indique que les équipes de sécurité doivent désormais surveiller non seulement leurs propres environnements, mais aussi l’ensemble de la chaîne d’approvisionnement logicielle. La capacité des agents IA à explorer des réseaux 24 h/24 à moindre coût impose une redéfinition des stratégies de défense, où la détection précoce et la réponse automatisée deviennent essentielles.

Cette affaire rappelle que la rapidité du développement de l’IA ne doit pas laisser le champ libre à des pratiques de sécurité laxistes. Alors que les modèles continuent de s’améliorer, les acteurs malveillants auront accès à des outils de plus en plus sophistiqués, ce qui rendra la mise en place de contrôles continus et de vérifications formelles indispensable pour protéger les infrastructures critiques.