Revolut affirme diviser par dix sa facture d’inférence IA avec des modèles auto-hébergés
L’essentiel
Revolut affirme avoir divisé par dix ses dépenses d’inférence en remplaçant une partie de ses appels à Anthropic et OpenAI par un modèle auto-hébergé, GLM-5.3. La fintech mobilise 56 GPU Nvidia B200 pour servir environ 2 000 ingénieurs. Ce retour d’expérience met en évidence le potentiel économique de l’auto-hébergement, mais aussi le poids des optimisations d’infrastructure dans son équation.
- Un coût d’inférence annoncé à 0,30 dollar : David Abitbol, responsable des opérations IA de Revolut, indique un coût moyen agrégé proche de 0,30 dollar par million de tokens, soit environ dix fois moins que les dépenses antérieures auprès d’Anthropic et d’OpenAI. Le calcul ne fournit toutefois pas une comparaison à charge identique ni une ventilation complète des coûts d’exploitation.
- 56 GPU pour 2 000 ingénieurs : GLM-5.3 est déployé sur 56 GPU Nvidia B200. Claude Code et Codex restent accessibles pour les usages qui nécessitent ces services commerciaux.
- Des gains qui reposent aussi sur l’optimisation : à nombre de GPU constant, Revolut rapporte 76 % de requêtes par seconde supplémentaires et une réduction de 88 % du délai avant le premier token, passé de 14,26 à 1,68 seconde. Quantification FP4, parallélisme tensoriel et réutilisation du cache figurent parmi les leviers présentés.
- Une productivité difficile à attribuer au modèle : Revolut évoque une réduction de 60 % du temps de codage et de 70 % du lead time après une étape antérieure de migration vers GLM-5.1. Ces évolutions ne permettent pas d’isoler l’effet du modèle des autres changements organisationnels et techniques.
- Un dispositif qui reste multimodèle : GLM-5.3 étant un modèle textuel, les demandes nécessitant une compréhension d’images sont routées vers d’autres modèles. Revolut conserve ainsi une architecture combinant modèles auto-hébergés et services externes.
- Le coût complet reste à évaluer : l’économie annoncée porte sur la facture d’inférence, pas sur le coût total de possession. Les investissements matériels, l’énergie, l’exploitation et la maintenance doivent être intégrés à l’arbitrage entre API commerciales et infrastructure interne.
Revolut fait des modèles auto-hébergés sa solution par défaut pour le développement assisté par IA, sans renoncer aux services commerciaux.
Lors de la conférence AI Engineer NYC, David Abitbol, son responsable des opérations IA, a présenté cette stratégie et les optimisations nécessaires à sa mise en production.
Selon lui, Revolut sert GLM-5.3 à environ 2 000 ingénieurs sur 56 GPU Nvidia B200, avec un coût moyen agrégé proche de 0,30 dollar par million de tokens. Il indique que la facture représente environ un dixième des dépenses antérieures auprès d’Anthropic et d’OpenAI.
Ce ratio ne constitue toutefois ni un tarif universel de l’auto-hébergement ni une comparaison à charge de travail strictement identique. La présentation ne fournit pas de ventilation permettant de déterminer précisément quels coûts d’infrastructure et d’exploitation entrent dans le calcul, ni de vérifier le coût total de possession.
Claude Code et Codex restent accessibles pour les exceptions.
Productivité : une causalité non démontrée
Les résultats de productivité concernent une étape antérieure. Le passage à GLM-5.1, au printemps 2026, coïncide avec des améliorations annoncées d’environ 60% du temps de codage et de 70% du lead time. Ce dernier mesure le délai entre la prise en charge d’une fonctionnalité et sa fusion dans le code, prête à être déployée mais pas nécessairement son déploiement effectif.
La comparaison interne ne permet pas d’isoler l’effet du changement de modèle. David Abitbol avance notamment qu’un accès moins contraint par les budgets de tokens encourage l’utilisation de l’IA pour les tâches périphériques, comme la recherche d’informations dans les courriels, Jira ou Confluence.
Ces chiffres ne constituent donc pas un benchmark contrôlé de GLM-5.3 face à Claude ou Codex.
Optimiser avant d’ajouter des GPU
Le retour d’expérience porte autant sur le service d’inférence que sur le modèle. A nombre de GPU constant, Revolut rapporte une hausse de 76% des requêtes par seconde et une baisse de 88% du délai avant le premier token, passé de 14,26 à 1,68 seconde. L’objectif opérationnel est de rester sous trois secondes.
Les leviers évoqués comprennent la quantification FP4 sur les GPU Blackwell, le parallélisme tensoriel et la réutilisation du cache. David Abitbol recommande aussi d’examiner le décodage spéculatif et la séparation entre traitement du contexte d’entrée et génération des tokens, sans établir que chaque technique est effectivement déployée chez Revolut.
Concernant le contexte, il estime qu’environ 256 000 tokens répondent aux besoins décrits, plutôt que de réserver systématiquement la capacité maximale d’un million. L’enjeu est de préserver la mémoire disponible pour traiter plusieurs requêtes simultanément.
maUn dispositif multimodèle et supervisé
GLM-5.3 étant textuel, le responsable des opérations IA préconise de router les demandes nécessitant la compréhension d’images vers un autre modèle. Des API compatibles avec celles d’OpenAI permettent parallèlement de connecter les modèles hébergés aux outils de développement utilisés par les ingénieurs.
Sur la sécurité, Revolut met en avant des environnements isolés, des règles d’approbation pour les opérations restreintes et une télémétrie permettant d’enquêter sur les incidents. David Abitbol distingue également l’hébergement des poids sur une infrastructure choisie par l’entreprise du recours au service distant du développeur du modèle.
Photo : © DR
The post Revolut affirme diviser par dix sa facture d’inférence IA avec des modèles auto-hébergés appeared first on Silicon.fr.
















