La course à l’armement de l’infrastructure de l’IA s’accélère : Nvidia lance Spectrum-6, la concurrence en puissance de calcul entre dans une nouvelle ère du milliard de watts
Nvidia a lancé le nouveau commutateur Ethernet de prochaine génération, Spectrum-6, d'une capacité de 102,4T, spécialement conçu pour la plateforme Vera Rubin et les usines d'IA à l'échelle du gigawatt. Ce produit a été adopté par des entreprises de premier plan telles que Microsoft et Tesla ; il vise à résoudre les goulets d'étranglement de communication des clusters de GPU à très grande échelle en améliorant l'efficacité et la performance énergétique du réseau.
La compétition autour des infrastructures d’IA franchit un nouveau seuil de puissance.
Nvidia a récemment lancé officiellement le nouveau commutateur Ethernet Spectrum-6, destiné aux usines d’IA d’un milliard de watts, doublant la bande passante réseau par rapport à la génération précédente, avec une adoption précoce par des leaders tels que CoreWeave, Microsoft, Nebius, SpaceX AI et Tesla.
Spectrum-6 est un commutateur Ethernet d’une capacité de 102,4 T, conçu spécifiquement pour la plateforme Vera Rubin de Nvidia et constitue le cœur de la nouvelle génération de plateformes Ethernet Spectrum-X. Avec l’expansion mondiale de la taille des usines d’IA vers des centaines de milliers de GPU fonctionnant en simultané, Nvidia positionne le réseau comme une variable clé influençant la production totale de puissance de calcul, et non simplement comme un composant de couche de connexion.
CoreWeave, Microsoft et Nebius seront parmi les premiers fournisseurs de services cloud à déployer l’infrastructure Vera Rubin basée sur Spectrum-6, offrant un accès à la plateforme pour les développeurs, les start-up et les utilisateurs d’entreprise. Ce calendrier de déploiement signifie que la mise en œuvre commerciale d’infrastructures de calcul d’IA de plusieurs milliards de watts s’accélère, impactant directement la structure de l’offre en puissance de calcul ainsi que le rythme des dépenses en capital associées.
Le réseau devient le principal goulot d’étranglement de la performance IA
La logique sous-jacente du lancement du Spectrum-6 par Nvidia provient du conflit structurel entre les caractéristiques de communication des charges de travail d’entraînement et d’inférence IA à grande échelle et l’architecture réseau traditionnelle.
Les tâches d’IA à grande échelle exigent des milliers d’accélérateurs échangeant fréquemment des données. Les opérations de communication collective génèrent une grande quantité de trafic est-ouest, et plusieurs flux de tâches sont généralement transmis en parallèle dans le système. L’Ethernet traditionnel a été initialement conçu pour supporter le trafic nord-sud des entreprises, et non pour optimiser les modèles de communication synchrones et intensifs des charges IA.
La plateforme Ethernet Spectrum-X a été conçue pour combler cette lacune. Selon Nvidia, par rapport à l’Ethernet conventionnel, Spectrum-X peut fournir jusqu’à 1,6 fois la performance réseau IA, maintenant une efficacité réseau jusqu’à 95 % sur des déploiements de plus de 100 000 GPU. La topologie multi-plans accélérée par le matériel Spectrum-X peut réduire de 40 % le nombre de commutateurs requis dans les centres de données, et les technologies de silicium optique offrent un gain d’efficacité énergétique de 5 fois et une augmentation du temps moyen entre les pannes de 10 fois, réduisant encore davantage les coûts opérationnels.
Laurelle Roseman, vice-présidente des partenariats mondiaux chez Nebius, déclare :
"Dans des systèmes de puissance du milliard de watts, la collaboration détermine la performance globale : garder chaque GPU toujours synchronisé et éviter que le moindre élément lent ne ralentisse l’ensemble du travail. C’est précisément l’objectif visé par le Spectrum-6 de Nvidia et la raison pour laquelle nous avons choisi de l’adopter en priorité."
Les acteurs majeurs misent collectivement sur la nouvelle plateforme
La liste des adopteurs du Spectrum-6 esquisse la configuration actuelle du pouvoir mondial dans la construction des infrastructures IA. La mobilisation collective de CoreWeave, Microsoft, Nebius, SpaceX AI et Tesla signifie que le produit a déjà été validé au niveau de déploiement commercial massif, plutôt que d’en rester au stade de la simple prévisualisation technique.
Min Jun, directeur des produits réseau chez CoreWeave, déclare :
"Intégrer le Spectrum-6 de Nvidia et l’infrastructure Ethernet Spectrum-X refroidie par liquide à notre usine d’IA permet d’offrir une bande passante, une fiabilité et une efficacité accrues, ce qui nous aide à mieux servir nos clients pour l’entraînement des modèles et à déployer plus rapidement les services d’inférence."
Pour les fournisseurs de services cloud, la valeur fondamentale de Spectrum-6 réside dans l’unification d’un plus grand nombre de GPU en un pool de ressources haute performance et planifiables, impactant directement la durée des cycles d’entraînement des modèles et la vitesse de réponse des services d’inférence. Pour les entreprises IA dotées d’infrastructures autonomes, cela signifie réaliser un taux d’utilisation système plus élevé dans les tâches à opérations collectives intensives et améliorer la stabilité des tâches d’entraînement prolongées — les deux conduisant à une exécution plus rapide des opérations et à un coût de token unitaire plus faible.
Le puzzle complet de l’écosystème de la plateforme Vera Rubin
Spectrum-6 n’est pas un produit isolé, mais un composant de la couche réseau de la plateforme de calcul globale Vera Rubin de Nvidia. La plateforme intègre le CPU Vera, le GPU Rubin, le commutateur NVLink 6, le ConnectX-9 SuperNIC, le DPU BlueField-4 et le commutateur Ethernet Spectrum-6, constituant un système complet conçu en collaboration de bout en bout.
La puce commutatrice Spectrum-6 et le ConnectX-9 SuperNIC forment la base matérielle de la nouvelle génération d’Ethernet Spectrum-X. Sur le plan logiciel, la plateforme associe commutateurs intelligents et logiciel réseau à pile complète, prenant en charge l’équilibrage intelligent du trafic et le rétablissement rapide en cas de défaillance.
En termes de configuration et de conception de dissipation thermique, Spectrum-6 prend en charge deux spécifications : l’emballage enfichable et l’intégration opto-électronique, et propose des solutions de refroidissement par liquide, permettant intégration à un déploiement de refroidissement liquide de bout en bout dans les usines d’IA, augmentant ainsi l’efficacité globale.
Nvidia définit cette méthode de conception comme une « intégration verticale, ouverture horizontale » : au niveau de la plateforme de calcul complète, les puces, systèmes et logiciels sont conçus en collaboration, tout en restant compatibles avec l’Ethernet standard, les systèmes d’exploitation réseau ouverts et les protocoles ouverts, soutenant l’écosystème élargi des fournisseurs de services cloud, fabricants de systèmes et partenaires d’infrastructure. Nvidia affirme que les clients bénéficient d’une plateforme d’usine IA complète, sans avoir à intégrer ou optimiser eux-mêmes des composants disparates.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
De la frénésie des tokens à l’océan bleu des serveurs IA à 1 300 milliards de dollars : la puissance de calcul pour l’inférence de l’IA explose, inaugurant pour Dell et d’autres leaders une ère dorée de “quantité, prix et parts de marché”
Des leaders mondiaux de la fabrication de clusters de serveurs IA, tels que Dell, bénéficient simultanément de deux avantages de croissance : d'une part, l'accélération de l'expansion du marché des serveurs IA, et d'autre part, une augmentation significative de la part des commandes provenant de clients clés en informatique dématérialisée d'IA tels que les grandes entreprises et les nouveaux fournisseurs de cloud. Ils ne profitent donc pas seulement passivement des hausses de prix du matériel.
La vague de hausse des prix des services cloud GPU : Nebius augmente à nouveau de 20 %, le pouvoir de négociation s'inverse du côté de la fourniture de puissance de calcul
À partir du 1er octobre, Nebius augmentera de 20 % l’ensemble de ses services cloud GPU, avec des hausses sur de nombreux modèles de puces, du H100 au B300. Il s’agit de la deuxième augmentation de prix en quelques mois, le B300 ayant connu une hausse cumulée de 56 %. La demande de capacités de calcul est visible sur plus de 24 mois, les clients se ruant sur la puissance de calcul Blackwell, allant même jusqu’à accepter des enchères à prix supérieur. Le déséquilibre entre l’offre et la demande de puissance de calcul pour l’IA est en train de remodeler tout le rapport de force dans le secteur, le pouvoir de négociation passant lentement mais sûrement du côté des fournisseurs.
Prix des cryptos
Plus
