Une étude récente de l'organisation de recherche en Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. METR montre que les modèles actuels progressent à un rythme qui dépasse largement la capacité des outils de mesure publics. Cette accélération, si elle se confirme, pourrait rendre difficile pour les humains d'évaluer, de réagir et de prévenir les risques catastrophiques liés à de nouvelles générations de systèmes d'IA.

Des performances déjà supérieures sur des tâches bien définies

METR a testé les modèles sur des exercices de programmation et de calcul où le retour d'information est immédiat. Dans ces conditions, les IA battent la plupart des professionnels expérimentés, même si elles n'ont pas encore surpassé les meilleurs experts lorsqu'ils travaillent en groupe. L'analyse révèle que la durée maximale des tâches que les modèles peuvent gérer double tous les 3,6 mois. En extrapolant naïvement ces données, les chercheurs estiment que d'ici juillet 2027 les IA atteindront une probabilité de succès de 50 % sur des missions de 200 heures, un temps que les humains jugent aujourd'hui très long.

Les limites face aux questions ouvertes

Malgré ces performances, les systèmes peinent avec les interrogations qui n’offrent pas de réponse immédiate et qui demandent du jugement. Les scénarios nécessitant une compréhension contextuelle ou des valeurs humaines restent un point faible. De plus, les environnements de test trop similaires à ceux utilisés pendant l'TrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances. peuvent donner une impression exagérée de la fiabilité des modèles lorsqu'ils sont déployés dans le monde réel.

Pourquoi cela inquiète les experts en sécurité

Le principal problème soulevé par METR est la perte progressive de capacité à « comprendre, évaluer et réagir » aux risques potentiels. Si les IA deviennent capables de concevoir, optimiser ou même dissimuler des comportements dangereux en moins de temps que les équipes de sécurité ne peuvent analyser, le spectre des menaces augmente. Cette situation n'est pas seulement théorique : elle touche des domaines comme la génération de code malveillant, la manipulation d'informations ou la prise de décision autonome dans des systèmes critiques.

Vers une régulation adaptée

L'organisation appelle à une révision des cadres d'évaluation, en insistant sur la nécessité de jeux de données publics plus diversifiés et de tests qui reproduisent mieux les conditions réelles d’utilisation. Elle recommande également de développer des mécanismes de surveillance continue, capables de détecter des dérives de comportement dès les premières phases d’apprentissage. Enfin, METR invite les acteurs du secteur à partager leurs résultats de sécurité de façon transparente, afin de construire une base de connaissances collective capable de suivre le rythme des avancées technologiques.

En résumé, les modèles d'IA continuent de franchir des étapes qui, il y a encore quelques années, semblaient réservées aux experts humains. Cette évolution rapide impose aux chercheurs, aux régulateurs et aux développeurs de repenser leurs méthodes de contrôle, sous peine de se retrouver dépassés par des systèmes dont le comportement ne peut plus être anticipé avec certitude.

Une lecture à partager ?
Partager
Partager cet article
WhatsApp ↗LinkedIn ↗Facebook ↗X ↗E-mail ↗

POUR CONTINUER

Garder le fil.

Toutes les actus ↗