Ulat: Plano ng Nvidia na bawasan ang memory configuration ng Rubin Ultra upang tugunan ang kakulangan ng high-end HBM
Nangangahulugan ito na maaaring kailanganin ng mga kliyente na mag-deploy ng mas maraming GPU sa hinaharap upang makumpleto ang parehong antas ng computing power, at maaaring lalo pang tumaas ang gastos sa pagtatayo ng mga data center ng mga higanteng teknolohiya tulad ng Microsoft, Meta, at Google.
Ang kasikatan ng AI infrastructure ay papalapit na sa limitasyon ng supply chain.
Ayon sa ulat ng The Information, kasalukuyang pinag-aaralan ng Nvidia ang isang medyo agresibong plano—maglabas ng bersyon ng susunod na henerasyon ng AI GPU Rubin Ultra na may mas mababang memorya kaysa sa orihinal na plano, upang mapagaan ang pressure sa mass production na dulot ng kakulangan ng high-end high bandwidth memory (HBM) supply.
Ibig sabihin, kahit na ang Nvidia ang may kontrol sa merkado ng GPU, kailangan nitong maghanap ng balanse sa pagitan ng product specifications at kakayahan ng supply.
Ipinapakita ng pagbabagong ito na ang HBM supply ay naging isa sa mga pinaka-kritikal na bottleneck sa AI industry chain, at nangangahulugan din itong maaaring lalo pang tumaas ang gastos sa AI server at magpapatuloy ang pressure sa pagtatayo ng data center na maidudulot pababa sa downstream na bahagi ng industriya.
Bumaba ang presyo ng stock ng Nvidia ng 0.1% nitong Huwebes, at bumaba ang stock ng SK Hynix ng 4.97%.
Mahirap ang supply ng HBM, sinusubukan ng Nvidia ang ilang "bawas-memorya" na bersyon
Ayon sa mga taong may alam sa usapin, sa nakaraang mga linggo, sinubukan ng Nvidia ang hindi bababa sa tatlong magkaibang bersyon ng Rubin Ultra GPU, kung saan ang iba ay may mas mababang memorya kaysa sa orihinal na plano.
Isa sa pangunahing dahilan kung bakit iniisip ng Nvidia na maglunsad ng low-memory na bersyon ay dahil posibleng hindi sapat ang makukuhang high-end HBM chips sa hinaharap upang suportahan ang mass production ng naunang disenyo.
Ang Rubin Ultra ay isang mahalagang bahagi ng susunod na henerasyon ng AI computing platform ng Nvidia, na mas mataas ang posisyon kaysa sa paparating na mass production Rubin series, at itinuturing na mahalagang hardware platform para sa future training ng malakihang AI models. Sa orihinal na plano, ito sana ay gagamit ng mas mataas na kapasidad at mas mataas na bandwidth na HBM upang lalong mapabuti ang performance ng model training at inference.
Gayunpaman, sa patuloy na mahigpit na supply ng HBM, muling sinusuri ng Nvidia ang product configuration, umaasang mapanatili ang plano ng paglabas ng produkto sa pamamagitan ng pag-adjust ng memory specs, imbes na hintayin pa ang pagpapalawak ng production ng supply chain.
Mas kaunting memorya, mas maraming GPU ang kailangan i-deploy
Para sa AI training, ang HBM ay hindi lamang nagbibigay ng data throughput capability ng GPU, kundi direktang nakakaapekto rin sa laki ng malalaking modelo na kayang suportahan.
Kung sakaling gamitin ng Rubin Ultra ang mababang memory configuration, kapag nagpapatakbo ng mga malalaking workloads gaya ng large language models, maaaring kailanganin ng mga customer na mag-deploy ng mas maraming GPU, upang matapos ang mga kalkulasyon na dati ay kayang gawin ng mas kaunting chips.
Kahit kaya namang bahagyang punan ng Nvidia ang performance loss sa pamamagitan ng pagpapahusay ng computing capability ng GPU at pag-optimize ng interconnection bandwidth, sa kabuuan, posibleng tataas pa rin ang deployment cost ng system at complexity ng cluster.
Para sa mga malalaking cloud providers tulad ng Microsoft, Meta, Amazon, at Google na patuloy na nagpapalawak ng AI capital expenditure, nangangahulugan ito na posibleng tumaas pa lalo ang gastos sa pagtatayo ng data center sa hinaharap.
Ipinakita ng AI boom ang pinakamalaking bottleneck ng industry chain
Ang HBM ay naging isa na sa pinaka-kulang na pangunahing sangkap sa AI industry chain sa kasalukuyan.
Sa mga nakaraang taon, mabilis na tumaas ang demand sa training ng large models, dahilan para patuloy na tumaas ang GPU shipments, at ang HBM na kailangan ng GPU ay pangunahing nililikha ng ilang kumpanyang gaya ng Samsung Electronics, SK Hynix, at Micron. Dahil sa komplikadong proseso ng paggawa ng HBM, mataas ang kalidad na kinailangan, at mahaba ang cycle ng expansion, hindi matugunan ng supply ang mabilis na demand sa AI.
Kadalasang inaasahan ng industriya na sa susunod na mga taon ay mananatiling mas mataas ang demand kaysa supply ng HBM, at ito rin ang isa sa mga dahilan kung bakit nananatiling mataas ang presyo ng AI servers.
Ang pagsasaalang-alang ng Nvidia na babaan ang memory configuration ng Rubin Ultra ay nagpapakita ring kahit may pinakamalakas itong bargaining power sa industry chain, nakatali pa rin ang mga plano nito sa limitadong HBM supply.
Lumalawak ang pressure sa gastos sa buong tech industry
Ang epekto ng pagtaas ng presyo ng HBM ay hindi na limitado sa AI servers lamang.
Habang patuloy na kulang ang mga pangunahing sangkap tulad ng GPU at HBM, tumaas ang kabuuang gastos sa hardware ng buong tech industry. Palaki nang palaki ang budget ng mga kompanya para sa pagbili ng AI infrastructure, at marami nang kailangang magtaas ng capital expenditure upang matugunan ang pangangailangan sa generative AI deployment.
Kasabay nito, ang pagtaas ng cost ng chip sa itaas ng supply chain ay nagsisimula na ring makaapekto sa consumer electronics. Kabilang ang Apple at iba pang hardware makers, na nagtaas na ng presyo ng kanilang end products para mabalanse ang cost pressure mula sa supply chain.
Ayon sa mga tagamasid ng merkado, hangga’t patuloy na mabilis ang paglaki ng demand sa AI computing power at limitado ang bilis ng pagluluwag ng bagong HBM capacity, ang kompetisyon para sa high-end memory resources ay magpapatuloy, at mananatiling susi ang HBM supply capacity sa bilis ng expansion ng AI industry.
Disclaimer: Ang nilalaman ng artikulong ito ay sumasalamin lamang sa opinyon ng author at hindi kumakatawan sa platform sa anumang kapasidad. Ang artikulong ito ay hindi nilayon na magsilbi bilang isang sanggunian para sa paggawa ng mga desisyon sa investment.
Baka magustuhan mo rin
Malaking Debate sa AI Bottleneck: 2027 Pinakatuktok na Bottleneck vs 2028 Malawakang Paglabas ng Kapasidad at Pagbagsak ng Presyo
Naniniwala ang analyst na si Ben Bajarin na patuloy na lalago ang pangangailangan para sa AI computing power, at sa 2027 ay mararanasan ng buong industriya ang pinakamalalang "bottleneck" sa suplay, habang sa 2028 ay magiging bahagyang masikip ngunit balanse ang suplay at demand. Samantala, binalaan ni Jay Goldberg ang tungkol sa batas ng mga siklo ng kasaysayan, kung saan ang napakalaking kapasidad ng produksyon ng mga kumpanya tulad ng TSMC ay maaaring magdulot ng pagbagsak ng kapangyarihan sa presyuhan at pagbalik sa average margin ng kita. Magkasundo ang dalawa na tapos na ang panahon ng "basta bili ng AI supply chain, tiyak kikita", kaya dapat piliin ng mga mamumuhunan ang mga pangunahing asset na may matatag na kakayahang magtakda ng presyo sa loob ng iba’t ibang siklo.
Hinihila ng Japan ang buong mundo pababa
Sa unang pagkakataon sa loob ng 30 taon, ang yield ng Japanese government bonds ay lumampas sa 3%, na nagdudulot ng pandaigdigang alarma. Ayon sa Nomura, ang sanhi ng pagtaas ng mga global long-term interest rates ay mismong nagmumula sa Japan—mismong ang kontroladong fiscal expansion at inaasahang pagtataas ng interest rates ng central bank, kung saan ang fiscal risk premium ang naging pinakamalaking tagapagpagalaw. Lalo pang nagpapaingat sa merkado, patuloy na pagtaas ng yield ng Japanese bonds hindi lamang nagbabanta sa asset-liability sheets ng mga pandaigdigang financial institutions, ngunit maaari ring magpatok sa AI technology stock bubble at magdulot ng biglaang pagbagal sa ekonomiya.
Mga presyo ng crypto
Higit pa
