La Economic Daily de Corée : Quand les CPU AI dévorent la DRAM — la "pénurie" de mémoire va se prolonger d'une année supplémentaire !

L'industrie de la mémoire a établi des performances record, stimulée par une envolée de plus de 100 % du prix du DRAM standard, et avec l’arrivée sur le marché de processeurs centraux (CPU) spécialement conçus pour l’IA, les prévisions indiquent que la pénurie pourrait se prolonger d’une année supplémentaire.

Le tout récent « AI CPU » lancé par Intel devrait embarquer jusqu’à quatre fois plus de DRAM standard que la génération précédente.DRAM. Avec l’augmentation soudaine de la demande de DRAM haute capacité pour les unités de traitement graphique (GPU), les observateurs anticipent que les capacités d’approvisionnement en mémoire de Samsung Electronics et SK Hynix ne suffiront pas à couvrir la demande.Selon des sources du secteur citées le 2,les fabricants de CPU cherchent à intégrer 300 à 400 Go de DRAM dans les AI CPU. Ce volume est quatre fois supérieur à celui des CPU classiques (96 à 256 Go), ce qui est impressionnant.Le CPU s’affirme comme un « coordonnateur de l’IA »La demande croissante de DRAM haute capacité par le CPU pour l’IA est étroitement liée à la transition de l’industrie de l’IA vers une structure centrée sur l’inférence. Autrefois, l’inférence IA se limitait à des questions-réponses simples ; elle devient aujourd’hui une activité de coordination de divers agents IA.Un élément clé de ce processus est la « mémoire contextuelle ». Pour que le CPU assure la coordination du workflow en se référant aux sorties de chaque agent IA, il doit se souvenir du contenu traité. L’élargissement de la mémoire - c’est-à-dire de l’espace de stockage - devient donc critique.Jusqu’à présent, les centres de données IA étaient principalement construits autour de GPU dotés de mémoire à large bande passante (HBM). Profitant de l’avantage du GPU à entraîner des IA en manipulant simultanément d’énormes volumes de données, la priorité a longtemps été donnée à « l’entraînement de l’IA ». Les serveurs étaient ainsi configurés selon le modèle 8 GPU pour 1 CPU. Mais avec le déplacement de la priorité vers l’inférence, des configurations serveurs avec un ratio CPU largement accru commencent à se diffuser.Lors de la récente conférence de résultats, un dirigeant d’Intel a expliqué : « Dans l’infrastructure d’inférence IA, l’architecture de calcul a évolué vers un ratio CPU:GPU de 1:4, et cette tendance évolue encore vers du 1:1. »Après le GPU, le CPU rejoint la course à la mémoire - une demande en forte expansionLa bataille des capacités mémoire, jusque-là centrée sur les GPU, s’étend aux CPU, la taille augmentant rapidement. Le prochain chipset IA de NVIDIA, «Vera Rubin», supporte 288 Go via 8 piles HBM, tandis que la prochaine génération de GPU d’AMD, la MI400, offre une capacité massive de 432 Go.Google a aussi récemment lancé sa propre puce sur-mesure — la huitième génération d’unité de traitement tensoriel(TPU) 8i — prévue elle aussi avec 288 Go de HBM. De plus, l’AI CPU « Xeon » d’Intel et le « EPYC » d’AMD commencent à utiliser de la DDR5 à très grande capacité allant jusqu’à 400 Go, ce qui devrait maintenir la pénurie de mémoire plus longtemps.La vigueur du marché se confirme aussi sur les prix spot. Selon Kiwoom Securities, alors que le prix de l'ancienne génération DDR4 (base 16 Go) a chuté de 16% en avril sur un mois, le prix spot de la DDR5 (base 16 Go), utilisée pour les AI CPU, a augmenté de 2,8% sur la même période, conservant ainsi une prime notable.Un professionnel du secteur note :« Le marché actuel du DRAM est estimé à environ 10 points de pourcentage en dessous de la demande. Avec la demande de DRAM standard qui s'envole, au-delà du HBM, il est fort probable que le super-cycle se prolonge jusqu’en 2027 au lieu de 2026 comme anticipé auparavant. »