Guo Mingqi : Nvidia relance le projet de puce d’optimisation de préchargement d’inférence Rubin CPX
Selon une enquête du célèbre analyste Ming-Chi Kuo, Nvidia relance sa puce d’inférence AI pré-remplissage « Rubin CPX », dont la production en série est prévue pour début 2027. La nouvelle version utilise une mémoire HBM4 de 168GB, avec une consommation de 2300 watts et des performances proches du GPU Rubin standard. Cette puce adopte une conception modulaire indépendante de rack et d'interconnexion hiérarchisée, et sera déployée en collaboration 1:1 avec le GPU Rubin, se concentrant sur le pré-remplissage et la génération de KV Cache afin de réduire le coût des inférences contextuelles longues.
Nvidia a discrètement relancé un projet de puce que le marché considérait comme abandonné, ciblant spécifiquement l'étape de préremplissage (Prefill) à coût élevé dans l'inférence IA.
Selon la dernière enquête industrielle du célèbre analyste Ming-Chi Kuo, Nvidia a redémarré le projet GPU d’accélération de préremplissage pour l’inférence AI, dénommé "Rubin CPX", tout en procédant à d’importants ajustements de conception. D’après la planification actuelle, la nouvelle version de Rubin CPX devrait entrer en production au premier trimestre 2027.
La relance de ce projet envoie un signal clair : Nvidia mise fortement sur la résolution des goulets d’étranglement en termes de performance et de coût lors de l’étape de préremplissage dans les tâches d’inférence IA. Avec l’allongement continu du contexte des grands modèles, la phase de préremplissage doit traiter de grands volumes d'informations et générer un KV Cache, son efficacité impactant directement le coût global de l’inférence IA et la viabilité économique du déploiement.
D’après Ming-Chi Kuo, plus de 50% de la charge de travail en inférence IA provient actuellement du traitement du contexte d'entrée et de la construction du KV Cache.
Ajustement majeur des spécifications des puces, puissance de calcul proche du Rubin standard
Les spécifications principales du nouveau Rubin CPX diffèrent nettement par rapport à la version précédente.
En termes de performance et de consommation, le nouveau CPX offre une puissance presque équivalente au GPU Rubin standard, avec une consommation maximale par carte atteignant également 2300 watts. Côté mémoire, le nouveau CPX adopte 168Go de mémoire HBM4, une amélioration notable par rapport aux 128Go de GDDR7 de la version précédente, bien que toujours inférieure aux 288Go de HBM4 du GPU Rubin standard.
Selon Ming-Chi Kuo, la capacité totale de HBM4 sur un plateau de calcul CPX à 8 cartes est d’environ 1,34To, suffisant pour la plupart des charges préremplissage à long contexte et leurs besoins de KV Cache correspondants. Cela signifie que le Rubin CPX ne poursuit pas simplement une puissance de calcul plus élevée, mais a été repensé pour optimiser la capacité mémoire et l’efficacité du préremplissage dans les scénarios de long contexte.
Passage du rack partagé au déploiement indépendant, configuration plus flexible
L’architecture des racks est également un axe majeur de cette révision.
Dans la version précédente, le CPX devait partager son rack avec le GPU Rubin ; la nouvelle version opte pour des racks indépendants MGX ETL, permettant aux clients d’étendre la capacité CPX selon leurs besoins réels.
Concrètement, les clients peuvent choisir un déploiement de 64, 128, 192 ou 256 GPU CPX. Chaque module de rack de 64 GPU CPX inclut huit plateaux de calcul, chacun équipé de 8 GPU CPX et d’un plateau de switch.
La conception modulaire implique que les clients ne sont pas limités à acquérir de grands racks Rubin fixes, mais peuvent ajuster librement la puissance CPX selon les besoins réels de la charge de préremplissage.
Architecture d’interconnexion hiérarchisée, réduction des coûts de déploiement du préremplissage
Côté architecture d’interconnexion, Rubin CPX utilise une conception hiérarchique pour trouver un compromis entre performance et coût.
À l’intérieur d’un seul plateau de calcul, les 8 GPU CPX sont interconnectés via NVLink pour une extension Scale-up. Chaque GPU CPX dispose d’une bande passante NVLink comprise entre 1 et 1,5To/s, inférieur aux 3,6To/s d’un GPU Rubin standard.
Pour l’extension Scale-out entre les plateaux et à l’intérieur du module de rack, le CPX emploie un lien tout cuivre L1 Ethernet Spectrum-6 ; pour les connexions entre modules de racks, l’interconnexion passe par des switches Spectrum-6 de chaque module via des liens optiques OSFP.
Par rapport aux solutions reposant seulement sur une interconnexion GPU haut débit, cette architecture hiérarchisée vise d’avantage l’optimisation des coûts pour les scénarios de préremplissage.
Synergie avec Rubin GPU, ciblant l’inférence à long contexte
Rubin CPX n’est pas un GPU universel indépendant mais sert d'accélérateur de préremplissage en complément de Vera Rubin NVL72.
D’après Ming-Chi Kuo, Nvidia recommande un déploiement avec un ratio 1:1 entre CPX et Rubin GPU : le CPX réalise le calcul de préremplissage et génère le KV Cache, qui est ensuite transféré via RDMA Ethernet au Rubin GPU, chargé du décodage subséquent.
En termes de positionnement produit, l’objectif principal du Rubin CPX n’est pas de remplacer le GPU Rubin standard, mais de subdiviser davantage le processus d’inférence IA, chaque GPU gérant respectivement les tâches de préremplissage ou de décodage.
Ming-Chi Kuo le définit comme "la meilleure solution qualité/prix pour le préremplissage à long contexte". Avec l’élargissement constant de la fenêtre de contexte des modèles IA, le volume de calcul pour le préremplissage ainsi que l’échelle du KV Cache continuent de croître. Le redémarrage de CPX par Nvidia vise probablement à abaisser encore les coûts du long contexte, grâce à du matériel spécialisé et des déploiements hétérogènes.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Alors que la controverse autour de l’IA s’intensifie, les fonds spéculatifs achètent des actions technologiques à un rythme inédit depuis 15 mois.
Les fonds spéculatifs ont enregistré des achats nets d'actions américaines TMT lors de 10 des 11 dernières séances, reconstruisant leurs positions longues sur la technologie à la vitesse la plus rapide en 15 mois. Cependant, une tempête réglementaire sur l'IA a éclaté au « pire moment » : les appels des géants de l'IA à ralentir le développement ont été rejetés et l'incertitude réglementaire a directement frappé des actions technologiques asiatiques comme SoftBank. Alors que l'euphorie haussière coïncide avec la semaine des grandes banques centrales, le secteur technologique fait face à une épreuve majeure.
Suivi des préventes d’Apple : la demande pour la série iPhone 18 Pro à l’étranger reste faible, l’évaluation Duo est positive mais le matériel est en retard
Selon une enquête menée par Jefferies, après le lancement de l’iPhone 18 Pro, le temps d’attente de livraison dans les quatre grands marchés (États-Unis, Royaume-Uni, Allemagne, Japon) a diminué de 5 à 11 jours par rapport à l’année dernière, et il n’y a même plus de délai d’attente aux États-Unis. Cette situation indique clairement une faiblesse de la demande, en supposant que la capacité de production reste stable. Les marchés chinois et hongkongais montrent une contre-tendance de vigueur, mais les soupçons de stockage spéculatif persistent. Le nouveau modèle à écran pliant Duo est reconnu pour sa qualité logicielle, mais son prix élevé de 2 000 dollars ne fait qu’offrir un appareil de 254 grammes avec une configuration à double caméra, ce qui le place en retard par rapport aux concurrents Android sur l’aspect matériel. Jefferies maintient une recommandation "sous-performance" et le cours cible implique une baisse de 21% par rapport au cours actuel.
Enquête sur les avantages de santé par UBS : Elevance Health (ELV.US) en tête, les employeurs américains se préparent à la hausse des coûts médicaux
Dans l'enquête annuelle de gestion des avantages sociaux menée par UBS auprès des institutions, Elevance Health (ELV.US) est devenue la compagnie d'assurance santé américaine la mieux notée.
Prix des cryptos
Plus
