Anthropic accélère le développement de l'IA grâce à ses propres modèles, selon un rapport de METR

Un audit mené par le groupe de recherche en sécurité de l'IAAI SafetyDomaine consacré à l'identification, à la prévention et à la réduction des risques associés aux systèmes d'intelligence artificielle. METR pendant 11 semaines révèle que les modèles d'Anthropic progressent à un rythme deux fois plus rapide qu’il y a un an. Les chercheurs de METR ont observé que la productivité des équipes internes a fortement augmenté grâce à l’usage d’outils d’IAIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision., ce qui se traduit par des gains de performance qui ne s’expliquent pas uniquement par l’augmentation de la puissance de calcul.

Une accélération mesurée par des benchmarks

Les évaluations internes montrent que les modèles d’Anthropic ont accumulé l’équivalent de deux années de progrès historiques en seulement douze mois. Cette accélération n’est pas due à un simple scaling des GPUGPUProcesseur conçu pour effectuer de nombreux calculs en parallèle, notamment utilisé pour entraîner et exécuter des modèles d'IA., comme le souligne METR, mais à l’intégration d’IA dans le processus de recherche lui‑même. Des sondages informels sur Slack indiquent que les employés qui utilisent le modèle interne le plus avancé se déclarent en moyenne 12 fois plus productifs qu’ils ne le seraient sans assistance, un chiffre qui a doublé depuis les premières évaluations réalisées avec le modèle Mythos 5.

Des modèles internes encore secrets

Le rapport identifie trois modèles terminés entre juillet et octobre, désignés sous les noms de code Model 2, Model 3 et Model 4, qui restent à ce jour non publiés. Un quatrième modèle, développé en 2022 et nommé « Unreleased 2022 », aurait également contribué aux gains de performance. L’accès à ces modèles est limité aux équipes internes, ce qui explique en partie la difficulté pour les observateurs externes de mesurer précisément l’impact de ces nouvelles architectures.

Transparence limitée et redactions

Anthropic a fourni à METR de nombreuses données internes, mais a conservé le droit de censurer le rapport final. Selon METR, la majorité des preuves jugées les plus informatives ont été supprimées, rendant l’évaluation publique partielle. L’entreprise justifie ces suppressions par la crainte de divulguer un « road‑map » exploitable par ses concurrents. Sam McCandlish, co‑fondateur, a reconnu ces redactions sur X, estimant qu’elles étaient nécessaires bien qu’elles compliquent la vérification indépendante des conclusions.

Contradictions entre discours et pratique

Anthropic se positionne depuis longtemps comme un défenseur de la prudence dans le domaine de l’IA, son PDG Dario Amodei appelant régulièrement à « freiner » le développement des systèmes de grande taille. Le rapport METR montre pourtant que la société accélère elle‑même la cadence de l’innovation, au point que certains experts estiment que les prévisions les plus pessimistes sur le moment où l’IA pourra s’améliorer de façon autonome pourraient être sous‑estimées. Marius Hobbhahn d’Apollo Research indique que les données d’Anthropic dépassent les scénarios de « AI 2027 », qui anticipaient un bond décisif vers l’auto‑amélioration en début 2027.

Enjeux de sécurité et perspectives

Le principal souci soulevé par METR porte sur l’absence d’observations de plafonnements ou de goulets d’étranglement dans le processus d’accélération. Si les gains restent largement dépendants de l’assistance humaine aujourd’hui, les premiers signes d’une contribution autonome commencent à apparaître. Cela soulève la question de savoir si les cadres de sécurité actuellement en place seront suffisants pour contrôler une dynamique où les modèles pourraient, à terme, générer leurs propres itérations sans supervision humaineHuman in the LoopApproche intégrant une intervention humaine dans le fonctionnement, la validation ou les décisions d'un système automatisé. directe.

Le futur d’Anthropic et les attentes du marché

Alors qu’Anthropic prépare son introduction en bourse, la tension entre son rôle de porte‑voix de la responsabilité et la vitesse de son avancée technologique devient un sujet de débat majeur parmi les investisseurs et les régulateurs. La société a annoncé la publication prochaine d’un rapport détaillant ses propres mesures de vitesse de progression et les nouvelles procédures de sécurité qu’elle compte mettre en œuvre.

En définitive, le rapport METR offre un aperçu rare des dynamiques internes d’un laboratoire d’IA de pointe, tout en montrant les limites de la transparence lorsqu’une entreprise doit concilier compétitivité commerciale et obligations de sécurité publique. La communauté devra suivre de près les réponses d’Anthropic pour évaluer si les engagements affichés se traduiront en pratiques réellement contrôlées.