Revolut réduit ses coûts d’inférence IA grâce à l’auto‑hébergement de modèles

Lors de la conférence AIIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. Engineer NYC, David Abitbol, responsable des opérations IA chez Revolut, a détaillé la nouvelle stratégie de la fintech : privilégier les modèles auto‑hébergés comme moteur principal du développement assisté par intelligence artificielle, tout en conservant l’accès aux services commerciaux pour des cas exceptionnels.

Une facturation divisée par dix

Revolut utilise le modèle GLM‑5.3 sur un parc de 56 GPUGPUProcesseur conçu pour effectuer de nombreux calculs en parallèle, notamment utilisé pour entraîner et exécuter des modèles d'IA. Nvidia B200, mobilisant environ 2 000 ingénieurs. Selon les chiffres présentés, le coût moyen s’élève à 0,30 $ par million de tokensTokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère., ce qui représente à peu près un dixième du budget antérieur dédié à Anthropic et OpenAI. Cette réduction apparente ne constitue cependant pas un tarif universel : la présentation ne précise pas la ventilation exacte entre frais d’infrastructure, d’exploitation et éventuels services additionnels, ce qui empêche de vérifier le coût total de possession.

Gains de productivité, mais sans preuve de causalité

Revolut évoque des améliorations de 60 % du temps de codage et de 70 % du lead‑time depuis le passage à GLM‑5.1 au printemps 2026. Le lead‑time mesure le délai entre la prise en charge d’une fonctionnalité et son intégration dans le dépôt de code, sans inclure le déploiement effectif. L’entreprise ne fournit pas d’étude contrôlée permettant d’isoler l’impact du modèle par rapport à d’autres facteurs (organisation, outils, processus). Abitbol souligne toutefois qu’un budget de tokens moins contraint incite les équipes à solliciter l’IA pour des tâches périphériques – recherche d’informations dans les e‑mails, Jira ou Confluence – ce qui pourrait contribuer à la hausse de productivité observée.

Optimisations avant d’ajouter du matériel

Avec un nombre de GPU fixe, Revolut rapporte une hausse de 76 % des requêtes par seconde et une réduction de 88 % du temps avant le premier token, passant de 14,26 s à 1,68 s. L’objectif opérationnel est de rester sous trois secondes. Parmi les leviers cités :

• QuantificationQuantificationTechnique réduisant la précision numérique des paramètres ou des calculs d'un modèle afin de diminuer les ressources nécessaires. FP4 sur les GPU Blackwell
• Parallélisme tensoriel et réutilisation du cache
• Décodage spéculatif et séparation du traitement du contexte d’entrée de la génération de tokens (sans préciser si ces techniques sont déjà déployées)

Pour la gestion de la mémoire, l’équipe estime qu’environ 256 000 tokens suffisent aux besoins courants, évitant ainsi de réserver la capacité maximale d’un million de tokens et libérant de la mémoire pour le traitement simultané de plusieurs requêtes.

Multimodalité et sécurité

GLM‑5.3 reste un modèle purement textuel. Pour les requêtes nécessitant l’interprétation d’images, Revolut recommande de les router vers un modèle spécialisé, en gardant une API compatible avec celles d’OpenAI afin de faciliter l’intégration avec les outils de développement déjà en place.

Sur le plan de la sécurité, la fintech mise sur des environnements isolés, des règles d’approbation strictes pour les opérations sensibles et une télémétrie détaillée permettant d’enquêter rapidement en cas d’incident. Elle distingue également l’hébergement des poids du modèleParamètres du modèleValeurs numériques internes apprises pendant l'entraînement et utilisées par le modèle pour produire ses résultats. – réalisé sur une infrastructure choisie par l’entreprise – du service distant fourni par le développeur du modèle.

Vers une autonomie accrue

En conservant l’accès à Claude Code et Codex pour les cas où les modèles auto‑hébergés ne répondent pas aux exigences, Revolut montre qu’elle ne sacrifie pas la performance au profit du coût. La stratégie vise plutôt à maîtriser les dépenses tout en offrant aux ingénieurs une latenceLatenceDélai entre l'envoi d'une requête à un système et l'obtention d'une réponse ou du début de celle-ci. suffisamment basse pour être exploitable au quotidien.

Cette approche, encore en phase de validation interne, pourrait inspirer d’autres acteurs du secteur qui cherchent à concilier performance, contrôle des dépenses et souveraineté technologique. Le suivi des métriques de coût et de latence sera crucial pour mesurer si le modèle auto‑hébergé pourra réellement remplacer les services commerciaux à plus grande échelle.

En bref, Revolut mise sur l’optimisation logicielle et matérielle pour réduire ses factures d’inférenceInférencePhase durant laquelle un modèle entraîné utilise ses paramètres pour produire une prédiction ou une réponse à partir de nouvelles données., tout en gardant la porte ouverte aux solutions tierces lorsqu’elles offrent un avantage décisif.