Revolut abandonne Claude et affirme avoir réduit de 90 % ses coûts liés à l'IA
Revolut privilégie les modèles auto-hébergés aux solutions commerciales.
- Revolut a remplacé Claude par les modèles auto-hébergés de Z.ai et réduit ses coûts d'inférence de 90 %.
- La productivité liée aux délais de développement aurait progressé de 70 %, et celle liée au temps de codage de 60 %.
- Le modèle fonctionnerait sur 56 GPU Nvidia B200 et nécessiterait plus de 380 Go de mémoire.
Revolut rejoint la liste grandissante des entreprises qui cherchent à réduire leur dépendance à Claude. La banque numérique aurait ainsi diminué ses coûts d'inférence de 90 % en moins d'un an.
Mais l'entreprise basée à Londres n'a pas complètement abandonné l'IA. Elle a remplacé ces usages coûteux par des modèles chinois à poids ouverts de Z.ai, qu'elle héberge elle-même.
En s'affranchissant de ces restrictions, Revolut affirme que ses développeurs peuvent désormais utiliser l'IA beaucoup plus librement, sans se préoccuper des limites de tokens. La productivité aurait également progressé.
Revolut abandonne Claude au profit de modèles chinois auto-hébergés
Revolut connaît déjà bien l'univers de l'intelligence artificielle. L'entreprise avait d'abord expérimenté Gemini de Google avant de choisir Claude d'Anthropic. Mais certains utilisateurs intensifs auraient dépensé plusieurs milliers de dollars par mois en tokens, sans obtenir un retour sur investissement équivalent.
« Les coûts de l'IA suscitaient de sérieux doutes », a déclaré David Abitbol, responsable des infrastructures chez Revolut, lors d'une conférence organisée le mois dernier, selon The Register. « Lors du lancement, des limites budgétaires strictes avaient été imposées. »
Lors d'une autre intervention au GTC Berlin, David Abitbol a également indiqué que l'auto-hébergement avait permis à Revolut d'améliorer de 70 % la productivité liée aux délais de développement et de 60 % celle liée au temps de codage. Il a aussi salué les modèles GLM de Z.ai pour leur confidentialité des données et leur auditabilité.
Les modèles auto-hébergés coûtent-ils moins cher ?
Le modèle GLM-5.1 aurait ramené les coûts d'inférence à environ 0,30 dollar par million de tokens d'entrée et de sortie, soit près d'un dixième du coût de solutions commerciales comparables. Revolut peut désormais exploiter sa propre infrastructure d'inférence et gérer elle-même ses capacités.
Cette souplesse a toutefois un prix. Si les coûts directement liés à l'utilisation des modèles ont fortement diminué, l'auto-hébergement exige des investissements importants dans le matériel et l'infrastructure. Les GPU, leur entretien et l'électricité figurent parmi les postes de dépenses susceptibles d'avoir considérablement augmenté.
La banque disposerait désormais de 56 GPU Nvidia B200. Le modèle nécessiterait à lui seul environ 380 Go de mémoire GPU, auxquels s'ajouteraient entre 6 et 26 Go par utilisateur pour conserver le contexte.
Cette situation montre à quel point l'intelligence artificielle reste coûteuse. La déployer sans stratégie précise, dans le seul espoir de gagner du temps, constitue donc une mauvaise approche. Mais alors que davantage d'entreprises abandonnent des solutions commerciales comme Claude au profit de l'auto-hébergement, une question se pose. L'utilisation de modèles moins avancés pour les tâches courantes, voire l'hébergement interne plutôt que la location de ressources, pourrait-elle améliorer leur rentabilité dans les prochaines années ?
Tout cela intervient dans un contexte d'imprévisibilité des coûts, qui semble peser encore davantage sur les entreprises que le niveau élevé des dépenses lui-même.
« L'open source est désormais une priorité chez Revolut, et notre modèle économique est favorable », a déclaré David Abitbol. « La facturation est fixe, les mauvaises surprises en fin de mois ont disparu et les modèles de pointe restent l'exception. »
- La souveraineté numérique est devenue une priorité européenne, et l'open source pourrait jouer un rôle décisif
- De la phase pilote au déploiement de vos projets, l'IA exige de repenser l'organisation des données
- Claude double ses limites d'utilisation pour tous les utilisateurs, mais l'offre cache une condition
Quand je ne suis pas en train de plonger dans le monde fascinant de la finance et des nouvelles technologies, vous me trouverez probablement en train de parcourir le globe ou de conquérir de nouveaux mondes virtuels sur ma console de jeux.