Nvidia réalise un coup de maitre : cette seule carte rivalise avec 4 RTX 5090 et consomme 4 fois moins

Une seule carte qui rivalise avec quatre GPU grand public, c’est le genre de comparaison qui fait lever un sourcil, puis sortir la calculette.

Sur des tests IA menés sur un modèle massif de 230 milliards de paramètres, la RTX PRO 6000 Blackwell atteint une cadence de génération de tokens quasiment identique à une configuration en 4 RTX 5090, tout en consommant beaucoup moins. Le point qui pique le plus, c’est l’écart énergétique. Là où un montage en quatre cartes peut grimper vers 2300 W, la carte pro se contente d’environ 600 W. Sur le papier, ça change tout pour un poste de travail, un petit serveur de labo, ou une équipe qui fait tourner de l’inférence toute la journée. Mais il y a des nuances, notamment sur les métriques retenues, le prix d’entrée, et le type de charge IA visée.

Unsloth mesure 118,74 tokens/s sur la RTX PRO 6000

Les chiffres qui circulent viennent d’un scénario très concret, un gros modèle de 230B paramètres exécuté avec la même quantification, et une mesure centrée sur la génération. Dans ce cadre, une RTX PRO 6000 Blackwell sort 118,74 tokens/s. En face, une machine équipée de 4 RTX 5090 monte à 120,54 tokens/s. L’écart est faible, ce qui alimente l’idée d’une carte unique qui remplace un montage multi-GPU.

Autre métrique souvent oubliée quand on ne regarde que le débit, le temps avant le premier token, le TTFT. Sur ce test, la carte pro est donnée à 765 ms, contre 725 ms pour quatre RTX 5090. Ce n’est pas une révolution, mais ça indique que la réactivité perçue reste du même ordre. Si tu fais du chat interne, du RAG ou des démos, ces dizaines de millisecondes comptent parfois plus que 2 tokens/s.

Le même protocole met aussi en perspective l’ancienne génération. Une configuration en 4 RTX 4090 est mesurée à 71,52 tokens/s et un TTFT de 1045 ms. Là, l’écart devient net, autant sur le débit que sur la latence. Dit autrement, sur ce type de charge, la bascule vers Blackwell n’est pas juste un gain marginal, c’est un changement d’échelle pour qui était resté sur des parcs 4090.

Il faut quand même garder la tête froide, parce que “tokens/s” n’est pas une vérité universelle. Sur des jobs où la limite vient du pré-remplissage, du batching, de l’IO ou de la CPU, tu peux te retrouver avec un plafonnement qui masque les avantages GPU. Marc, ingénieur ML dans une PME logicielle, résume ça sans détour, si ton pipeline est mal nourri, tu peux acheter la meilleure carte du monde, tu vas juste chauffer la pièce plus vite. La comparaison reste très parlante, mais elle ne remplace pas un profilage complet.

600 W contre 2300 W, l’écart qui change le dimensionnement

Le chiffre le plus simple à comprendre, c’est la consommation. La RTX PRO 6000 est donnée autour de 600 W, pendant qu’un montage en 4 RTX 5090 peut atteindre 2300 W. Même en laissant de côté le reste de la machine, l’ordre de grandeur est brutal. Tu passes d’un poste qui exige une alimentation, un câblage et un refroidissement sérieux, à une carte unique qui reste dans un cadre “workstation musclée”.

Dans un bureau ou un labo, cette différence se traduit en contraintes très concrètes. 2300 W côté GPU, c’est souvent un châssis plus volumineux, plus de ventilateurs, plus de bruit, et une marge thermique à sécuriser pour éviter le throttling. À l’inverse, 600 W n’est pas “petit”, mais c’est plus simple à intégrer dans une station de travail standard, avec une stratégie de refroidissement maîtrisable. Et si tu dois déployer plusieurs machines, le cumul sur le circuit électrique devient vite un sujet.

Sur la facture, le raisonnement est direct. Si tu fais tourner de l’inférence longtemps, la dépense énergétique devient un poste budgétaire. Quatre cartes à 2300 W côté GPU, c’est une consommation qui peut dépasser celle d’un petit radiateur, en continu, et qui impose souvent une climatisation plus agressive, donc un coût indirect. Une carte à 600 W réduit mécaniquement ce besoin. De ce fait, le coût total de possession peut basculer, même si le ticket d’entrée fait mal.

Nuance indispensable, la consommation annoncée est un élément, pas la totalité. Le système complet compte, CPU, RAM, stockage, réseau, et surtout l’efficacité à charge réelle. Une carte peut être mesurée à 600 W en pic, mais si ton usage n’exploite pas le GPU à 100%, la différence peut se resserrer. Néanmoins, l’écart de base reste tellement large qu’il structure les choix d’infrastructure. Marc le formule simplement, quand tu passes de quatre cartes à une seule, tu simplifies tout, et la simplicité, ça se paie moins cher sur la durée.

96 Go de GDDR7 et ECC, l’argument pro face à 32 Go

La comparaison ne se joue pas seulement sur la vitesse, elle se joue sur la mémoire. La RTX PRO 6000 Blackwell embarque 96 Go de GDDR7 sur bus 512-bit, là où la RTX 5090 est donnée à 32 Go sur un bus également à 512-bit. Sur des modèles lourds, cette capacité change la vie, parce qu’elle conditionne la quantification possible, la taille de contexte, et le confort de travail sans jongler avec des compromis.

Dans le test cité, la quantification utilisée est UD-IQ_XXS, choisie parce qu’elle tient dans les 96 Go de la carte pro. Le même réglage est appliqué aux autres configurations pour comparer proprement. Ce point est clé, parce que beaucoup de débats “ma carte est plus rapide” oublient que, si tu n’as pas la VRAM, tu ne peux même pas charger le modèle dans des conditions équivalentes. Là, la carte pro vise précisément cette zone de confort.

L’autre marqueur “pro”, c’est l’ECC, présent sur la RTX PRO 6000 et absent sur la RTX 5090 dans les fiches comparatives. L’ECC n’accélère pas un pas de calcul, mais il vise la fiabilité sur des exécutions longues. L’idée, documentée dans des travaux sur les erreurs silencieuses, c’est qu’un bit qui flanche peut dégrader un entraînement ou une convergence. Si tu fais des runs qui durent des heures, voire des jours, la stabilité devient un critère, pas un luxe.

Il y a aussi des écarts de configuration interne. La RTX PRO 6000 affiche 24 064 curs CUDA contre 21 760 pour la RTX 5090, avec des différences sur les Tensor Cores et la hiérarchie de cache selon les tableaux comparatifs. Sur des workloads IA, ces détails comptent, mais ils ne remplacent pas la réalité terrain, drivers, frameworks, versions CUDA. Néanmoins, l’ensemble, VRAM massive plus ECC, montre que la carte pro ne cherche pas à “gagner un benchmark”, elle cherche à sécuriser un usage production.

9 500 $ contre 14 000 $, le calcul change avec l’électricité

Sur le prix, l’écart surprend parce qu’il ne va pas dans le sens attendu. La RTX PRO 6000 Blackwell est annoncée autour de 9 500 $ aux États-Unis, et des prix relevés en Europe la placent plutôt vers 10 700 “au bas mot”. En face, une RTX 5090 est évoquée autour de 3 500 $, ce qui fait 14 000 $ pour quatre cartes. Même avant de parler d’énergie, la solution pro peut être moins chère que le multi-GPU, ce qui n’est pas le scénario habituel.

Dans un achat d’entreprise, ce delta a un effet immédiat sur la décision. Quatre cartes, c’est aussi quatre risques de panne, plus de contraintes de stock, plus de temps d’intégration, plus de points de friction pour le support. Une carte unique, c’est une chaîne plus simple, même si le remplacement unitaire coûte cher. Et côté châssis, passer de quatre GPU à un seul peut éviter un boîtier serveur spécialisé, ce qui réduit les coûts cachés, rails, alimentation, refroidissement, maintenance.

Le coût électrique, lui, renforce la logique. Si tu compares 600 W à 2300 W sur des journées de calcul, la différence devient un budget. De plus, la chaleur dégagée n’est pas gratuite, elle appelle souvent de la climatisation, donc une dépense additionnelle. Dans une petite structure, ce sont des détails qui finissent par peser, parce que le GPU n’est pas isolé, il vit dans un environnement, un local technique, un open space, une baie.

Critique nécessaire, cette comparaison de prix reste fragile parce qu’elle dépend du marché, des disponibilités, et des marges. Les tarifs “street price” peuvent bouger vite, et les cartes pro suivent des circuits différents. Il y a aussi le sujet des licences logicielles et des drivers “enterprise”, souvent valorisés dans le monde pro, mais difficiles à chiffrer sans contexte. Néanmoins, même avec ces réserves, le fait qu’une carte pro ne soit pas automatiquement plus chère qu’un montage en quatre GPU grand public change le débat, surtout pour les équipes IA qui veulent un plan de déploiement stable.

Du multi-GPU vers l’accélérateur unique, une tendance qui s’installe

Ce que raconte ce match, c’est une préférence croissante pour l’accélérateur unique très puissant, plutôt que l’empilement de cartes. Quand une RTX PRO 6000 tient tête à 4 RTX 5090 sur un modèle géant, tu réduis les problèmes classiques du multi-GPU, synchronisation, gestion mémoire, complexité des builds, et parfois des surprises de performance quand la charge n’est pas parfaitement parallélisable. Pour des équipes petites ou moyennes, la simplicité devient un avantage compétitif.

Les chiffres de tests IA génériques vont dans le même sens, même si le classement dépend des sous-épreuves. Sur des mesures de type Geekbench 6 ML, on voit des écarts selon les tâches, classification, segmentation, super résolution, détection. L’intérêt ici n’est pas de proclamer un vainqueur universel, mais de rappeler qu’une carte peut être très forte sur une charge et moins dominante sur une autre. Dans la vraie vie, un studio vidéo IA n’a pas le même profil qu’un labo de NLP.

Pour un exemple concret, pense à une équipe qui sert un assistant interne, avec des requêtes toute la journée. Elle a besoin de latence correcte, d’un débit stable, et d’un coût énergétique prévisible. Dans ce cadre, une carte unique à 600 W peut être plus simple à opérer qu’un serveur à quatre GPU qui flirte avec 2300 W et impose une infrastructure plus lourde. À l’inverse, si l’objectif est de maximiser le pic de débit sur des fenêtres courtes, le multi-GPU peut encore se défendre, selon l’optimisation logicielle.

L’évolution reste incertaine sur un point, la disponibilité et la segmentation des gammes. Les cartes pro peuvent être difficiles à obtenir, et les cartes grand public peuvent être détournées parce qu’elles sont plus accessibles. Mais la direction est claire, plus de VRAM, plus d’efficacité, et une consolidation des performances dans un seul accélérateur. Marc, qui gère des déploiements dans des équipes data, glisse un constat pragmatique, le multi-GPU, c’est puissant, mais c’est une source d’ennuis, si une carte unique fait le job, tu dors mieux.