Les dépenses en IA stagnent malgré la hausse du volume de tokens

Les entreprises continuent d’intégrer l’intelligence artificielleIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. dans leurs processus, mais les factures ne suivent plus la même trajectoire ascendante. Un rapport de la société d’analyse financière Ramp, publié cet été, montre que les dépenses liées aux modèles d’IA se sont à peine déplacées entre août et septembre, alors même que le nombre de tokensTokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère. consommés a augmenté.

Un plateau inattendu

Selon les données de Ramp, le montant dépensé en tokens a progressé de seulement 1,5 % sur la période août‑septembre 2023. En juillet, la hausse était de 42 % par rapport au mois précédent. Cette stagnation intervient alors que les volumes de requêtes aux API d’OpenAI, d’Anthropic et d’autres fournisseurs continuent de croître.

Le rapport souligne que presque toutes les dépenses proviennent de start‑ups et de sociétés technologiques soutenues par du capital risque. Ces entreprises ont connu une croissance rapide du budget IA pendant la première vague de hype, mais elles semblent maintenant atteindre leurs limites budgétaires. « Si la croissance des dépenses ralentit, l’effet se répercute simultanément sur l’ensemble du secteur », explique Ara Kharazian, économiste principal chez Ramp.

Qui dépense réellement ?

L’analyse de Ramp différencie trois groupes d’entreprises :

• Le 1 % le plus dépensier, souvent qualifié d’« AI‑pilled », dépensait près de 10 000 $ par employé et par mois à son pic estival. En août‑septembre, cette moyenne a légèrement reculé.
• Les 10 % supérieurs dépensent entre 600 $ et 1 000 $ par employé chaque mois.
• La médiane des sociétés consomme entre 12 $ et 15 $ par employé.

Ces chiffres montrent que, même si le volume de tokens augmente, la majorité des entreprises n’utilisent pas les modèles les plus coûteux. Les cas d’usage les plus répandus – assistance à la rédaction, automatisation de tâches administratives, aide au code – ne justifient pas des dépenses astronomiques comme celles observées dans les laboratoires de R&D ou les grands fournisseurs de services cloud.

La guerre des prix rend le marché plus « acheteur »

OpenAI et Anthropic ont récemment baissé leurs tarifs d’accès aux API. En septembre, OpenAI a réduit de moitié le prix de ses modèles GPTGPTFamille de modèles génératifs préentraînés reposant sur l'architecture Transformer, notamment utilisés pour produire du texte.‑6 Sol et GPT‑6 Luna, tandis qu’Anthropic a appliqué d’importantes remises sur ses modèles Fable 5.1 et Opus 5.5. Ces coupes ont entraîné une baisse de revenu estimée à 600 millions de dollars pour Anthropic, comme indiqué dans un dépôt réglementaire.

Ces ajustements tarifaires, associés à des offres d’entreprise destinées à verrouiller la consommation, transforment le secteur en un véritable marché de l’acheteur. D’autres acteurs, comme Meta, Nvidia ou de nouveaux fournisseurs de modèles open‑source, proposent des alternatives moins chères, ce qui pousse les entreprises à optimiser leurs dépenses.

Plus d’efficacité, moins de dépenses

Outre la baisse des prix, les clients eux‑mêmes deviennent plus économes. Ils configurent des budgets, privilégient les modèles légers pour les tâches simples et utilisent des routeurs qui redirigent les requêtes vers les versions les moins onéreuses. Une startup américaine nommée Jev, par exemple, propose un outil qui sélectionne le résultat le plus probable parmi plusieurs modèles, réduisant ainsi le coût final.

Cette maîtrise accrue des dépenses se reflète dans les propos d’Akshay Kothari, co‑fondateur de Notion, qui a partagé une capture d’écran où l’on voit les tokens grimper mais les coûts se stabiliser. « Les hypothèses sur la trajectoire des dépenses IA commencent à se fissurer », indique Kharazian. Les entreprises utilisent davantage de tokens, mais le coût moyen par token diminue.

Implications pour les valorisations et les investisseurs

Le ralentissement des dépenses a des répercussions sur les valorisations des géants de l’IA. Bloomberg rapporte que la valeur potentielle d’Anthropic est passée d’environ 2 trillions de dollars à 1,2‑1,3 trillions, avec une notation « junk » envisagée par les agences de crédit. OpenAI a également revu à la baisse son évaluation à 1,25 trillion de dollars, réduisant ses objectifs de levée de fonds de 10 milliards.

Ces ajustements reflètent la prise de conscience que la croissance exponentielle n’est plus garantie. Les investisseurs espéraient que de nouvelles applications – agents personnels, assistants de codage avancés – relanceraient les dépenses, mais les premiers retours suggèrent que ces produits ne génèrent pas encore les marges attendues.

Vers quel avenir les dépenses en IA se dirigent ?

Kharazian reste prudent : « Nous pourrions voir de nouveaux produits qui stimuleront la consommation, mais les données actuelles montrent une décélération claire ». Les entreprises qui parviendront à offrir des cas d’usage à forte valeur ajoutée – par exemple, des systèmes d’aide à la décision en finance ou en santé capables de réduire des coûts opérationnels substantiels – seront les mieux placées pour renverser la tendance.

En attendant, le marché semble se stabiliser autour d’une utilisation plus ciblée et d’une pression continue sur les prix. Les acteurs qui réussissent à combiner performances et tarifs compétitifs pourraient profiter de cette période de transition pour consolider leurs parts de marché.