Ang apat na Mac Studio ay nagpapatakbo ng trillion-parameter model, hinahamon ng Apple ang narrative ng Nvidia tungkol sa inference.

Binabago ng Apple ang kompetisyon sa AI hardware market gamit ang isang "lokal na inference" na lohika, na direktang tumutukoy sa potensyal na incremental na bahagi ni NVIDIA sa larangan ng AI inference.

Ang pinakabagong M5 Ultra na bersyon ng Mac Studio ng Apple ay magsisimula ng paghahatid sa Setyembre 22, sumusuporta ng hanggang 512GB na unified memory, at maaaring magpatakbo ng distributed inference tasks sa cluster ng maraming kagamitan. Naipakita na ng Apple ang apat na Mac Studio na sama-samang nagpapatakbo ng isang modelo na may trilyong parameters.

Ayon kay Johny Srouji, hardware chief ng Apple, sa panayam ng Reuters, kapag binili ng isang kumpanya ang hardware, hindi na nila kailangang magbayad ng cloud fee kada inference request na nakabase sa token. Para sa mga koponan na may stable na workloads, mas praktikal na opsyon ang lokal na computing power kumpara sa matagalang pag-upa ng cloud GPU.

Ang salaysay na ito ay hindi direktang kumukuha ng kasalukuyang mga order mula kay NVIDIA, kundi nagpapahiwatig: Kung mas maraming inference tasks ang maililipat sa end-user devices o sa sariling mga makina ng kumpanya, maaaring mas mababa ang makukuhang bahagi ni NVIDIA sa incremental AI inference activities kumpara sa kasalukuyang inaasahan ng merkado.

Sa kasalukuyan, malakas ang technical performance ng Apple stock, samantalang patuloy na nasa malapad na saklaw ng volatility si NVIDIA at kulang sa mid-term trend. Inirerekomenda ng ilang analyst na gamitin ang options upang magpahayag ng bullish view sa Apple at bearish sa NVIDIA.

Pagkuha ng produkto: Mula "paggamit ng AI" tungo sa "pagpapatakbo ng AI"

Ang posisyon ng Apple para sa Mac Studio ay nagkaroon ng pundamental na pagbabago—mula pagbebenta ng “makinang kayang gumamit ng AI” tungo sa “makinang kayang magpatakbo ng AI”.

Ang sentro ng pagbabagong ito ay ang pagkakaiba ng estruktura sa inference cost: ang mga iPhone at Mac user ay nabayaran na ang chips, kaya hindi na kailangan ng karagdagang cloud inference requests para sa mga lokal na tasks. Ang parehong lohika ay ina-apply na rin sa enterprise.

Ang M5 Ultra Mac Studio ay sumusuporta ng hanggang 512GB unified memory, at ang configuration na ito ay darating sa huling bahagi ng Oktubre. Pinapahintulutan ng malaking memory ang mga user na mag-load ng modelo na hindi kasya sa isang regular na GPU, at ang cluster ng maraming device ay kayang magdala ng trilyong parameter na mga modelo.

Naipakita na ng Apple ang apat na Mac Studio na nagpapatakbo ng trilyong parameter model, na nagpatunay na teknikal na posible ang lokal na inference bilang alternatibo sa ilang cloud GPU clusters.

Gayunpaman, ang totoong pagsubok sa labas ng demo ng Apple ay nasa inference speed, sabayang dami ng user, at total cost of ownership kumpara sa cloud rental—tatlong pangunahing factor sa procurement decision ng enterprises.

Nananatili pa rin si NVIDIA sa value chain, ngunit may tanong sa incremental share

Hindi papalitan ng Mac Studio ang data center GPU sa lahat ng uri ng workload; gumamit din ang Apple ng NVIDIA GPU sa Google Cloud para sa ilang high-demand AI tasks.

Pero hindi kailangang mawala kay NVIDIA ang kasalukuyang order, pero maaaring magbago ang naratibo: kapag mas maraming inference tasks ang tumatakbo sa devices o sariling kagamitan ng kumpanya, malamang na bumaba ang incremental market share ni NVIDIA kumpara sa inaaasahan ng market.

Wala pa ring mid-term trend ang presyo ng NVIDIA stock, nananatiling gumagalaw sa malapad na range at nakikipag-trade malapit sa tuktok ng range, habang ang implied volatility ay nasa pinakamababang antas mula noong pre-pandemic.

Karaniwan, ang mababang volatility ay sumasalamin ng mataas na certainty ng market sa hinaharap na galaw, subalit ang potensyal na pagbabago ng inference narrative ay isang variable. Halos walang nakalaang risk premium sa kasalukuyang options pricing para sa "lokal na inference migration".

Dahil dito, ayon sa Goldman Sachs, bago pa ma-downgrade ang earnings expectations, ang pagbili ng NVIDIA put options ay isang murang paraan upang ipahayag ang pagbabagong ito; sa relative view, mas gusto nila ang bullish Apple, bearish NVIDIA strategy.

Iniisip ng mga analyst na dapat pagtuunan ng pansin ang aktwal na inference speed at total cost of ownership data pagkatapos dumating ang 512GB config sa Oktubre at ang procurement feedback ng mga enterprise clients tungkol sa lokal na inference solution.