Quand les agents IA gaspillent vos tokens : décryptage d’une étude académique

Les services d’intelligence artificielleIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. basés sur les modèles de langage facturent à la consommation de tokensTokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère. – les fragments de texte que le modèle lit et génère. Si la plupart des utilisateurs voient leurs factures augmenter, une question se pose : une part importante de ces dépenses est‑elle réellement utile ou s’agit‑il de gaspillage ?

Un constat déjà établi

Depuis plusieurs mois, plusieurs fournisseurs d’IA ont revu leurs tarifs à la hausse – Anthropic (+30 % en juin), DeepSeek (hausse en août) ou OpenAI (réduction du quota de tokens moyen en septembre). Cette tendance à l’austérité fait douter les développeurs d’agents IA lorsqu’une session de 45 minutes consomme tout le quota quotidien, les obligeant à attendre plusieurs heures ou à recharger leurs jetons.

Des travaux antérieurs avaient déjà montré que les modèles de raisonnement pouvaient « déambuler » dans leurs réponses, générant du texte superflu. Nils Bunge, responsable produit chez Tsuga, rappelait que « une équipe qui consomme deux fois plus de tokens n’apporte pas nécessairement deux fois plus de valeur ». Le problème n’est donc pas seulement économique, il touche à l’efficacité même des systèmes.

L’étude qui quantifie le gaspillage

Un groupe de chercheurs américains a publié récemment le papier How Do AI Agents Waste Your Money?. Leur objectif : mesurer, de façon systématique, la part de tokens inutiles dans les workflows agents. Pour les modèles fermés, ils ont introduit une méthode dite « shadow » qui combine les statistiques officielles du fournisseur avec des mesures internes.

Le protocole est le suivant :

1. Un agent exécute une tâche normale tandis qu’un proxy intercepte chaque échange avec le modèle (requêtes, réponses, appels d’outils, coût en tokens).
2. Un LLMLLMUn grand modèle de langage apprend des régularités dans des textes pour produire ou transformer du langage. Il ne constitue pas une base de faits garantie.‑judge analyse ces traces et identifie quatre types de gaspillage : Restate (répéter une information déjà connue), Duplicate‑Fetch (demander plusieurs fois la même donnée), Padding (texte inutile ou apologétique) et Detour (poursuivre des pistes qui n’aboutissent pas).
3. Les segments marqués comme gaspillage sont retirés, le nombre de tokens économisés est calculé, puis l’agent reprend la tâche avec les tokens restants pour vérifier que le résultat reste valide.

Résultats marquants

• En moyenne, 18 % des tokens produits par les agents sont jugés superflus.
• Sur plus de 45 % des tâches, le gaspillage d’un agent dépasse le total de tokens nécessaires à un autre agent qui réussit la même mission.
• Supprimer entre 41 % et 46 % du raisonnement inutile n’a qu’un impact marginal sur la performance, ce qui laisse entrevoir des économies importantes sans perte de qualité.
• L’effort de raisonnement ne garantit pas de meilleurs résultats : le modèle Kimi‑K3, à son niveau d’effort maximal, génère 6,6 fois plus de tokens de raisonnement que lorsqu’il opère en mode faible, sans amélioration notable du taux de succès.
• Le même modèle, selon l’interface (ou harness) utilisée, peut produire jusqu’à quatre fois plus de tokens inutiles pour une tâche identique.
• Certains gaspillages proviennent de bugs logiciels : des outils comme OpenCode, Kimi Code CLI ou OpenClaw lancent parfois des tâches dans le mauvais environnement Python, entraînant des erreurs et des nouvelles requêtes coûteuses.

Quelles pistes d’amélioration ?

Les auteurs préconisent plusieurs axes :

• Détection précoce des impasses : le harness devrait signaler quand le contexte ou les restrictions rendent la poursuite impossible, puis interrompre l’exécution.
• Intégration des métriques de gaspillage dans le processus de formation des modèles, afin que le LLM apprenne à éviter les détours inutiles.
• Optimisation du design des harnesses, en limitant les appels redondants et en assurant la cohérence des environnements d’exécution.

Implications pour les utilisateurs

Pour les développeurs qui intègrent des agents IA dans leurs produits, le message est clair : surveiller la consommation de tokens ne suffit pas, il faut analyser la qualité de chaque appel. Des outils de proxy ou de logging peuvent aider à identifier les motifs de gaspillage récurrents. En ajustant les paramètres de raisonnement (par exemple, en limitant le nombre de cycles de réflexion) et en choisissant des harnesses éprouvés, il est possible de réduire la facture sans sacrifier le résultat.

En définitive, l’étude montre que l’inefficacité n’est pas uniquement une question de tarif, mais résulte d’une combinaison de modèles, d’interfaces et de pratiques de développement. Une meilleure visibilité sur ces mécanismes ouvre la voie à des agents plus économes, plus rapides et, surtout, plus utiles pour les entreprises et les développeurs qui les emploient.

À suivre : les équipes de recherche prévoient d’étendre ces mesures à d’autres modèles (Gemini 3.1 Pro, GPTGPTFamille de modèles génératifs préentraînés reposant sur l'architecture Transformer, notamment utilisés pour produire du texte.‑5.6) et d’évaluer l’impact d’une formation ciblée sur la réduction du gaspillage de tokens.