Ulat: Malawakang ipatutupad ng Microsoft ang sariling AI chip sa susunod na taon, layunin ang 40% pagtaas sa kahusayan ng inference.

Pinalalawak ng Microsoft ang sariling pagdebelop ng AI chip at balak nitong mag-deploy ng Maia series chip sa sukat na gigawatt, unti-unting binabawasan ang pagdepende sa NVIDIA GPU, at pinipigilan ang gastos sa AI infrastructure sa pamamagitan ng pagpapabuti ng inference efficiency.

Noong Oktubre 12, ayon sa Bloomberg, inihayag ng Microsoft noong Lunes na ang bagong henerasyon ng Maia 300 chip ay sisimulan nang i-deploy sa mga data center sa susunod na taon at dinisenyo talaga para sa AI inference tasks. Inaasahan ng Microsoft na ang Maia 300 ay makakapagproseso ng 40% mas maraming token kada megawatt kumpara sa mga mainstream GPU system, na nangangahulugan ng mas maraming AI workload na kayang suportahan sa parehong pagkonsumo ng kuryente.

Hindi tulad ng Google at Amazon na bukas na sa cloud customers ang kakayahan ng sariling chips, ang Microsoft ay wala pang intensyon na direktang ipaarkila sa panlabas na kliyente ang Maia chip computing power. Ipinapakita ng pasya na ito ang pangunahing prayoridad ng Microsoft: gamitin muna ang sariling chips para matugunan ang napakalaking pangangailangan para sa AI services, bago gawing business advantage ang efficiency ng hardware.

Gigawatt-level na deployment, energy efficiency ang pangunahing lohika

Pinalalakas ng Microsoft ang sariling chip development, na pangunahing layunin ay pataasin ang AI inference efficiency at pababain ang mga gastos sa operasyon.

Ang inference ay tumutukoy sa paggamit ng mga trained na AI model upang magsagawa ng aktwal na gawain, gaya ng pagbubuod ng tala ng pulong, pagsagot sa mga research question, atbp., at isa ring pangunahing pinagmumulan ng demand ng computing power sa operasyon ng AI applications. Ayon sa Microsoft, ang Maia series ay dinisenyo particular para sa inference workloads sa sariling data centers, na kayang magpatakbo ng mga katugmang gawain nang mas epektibo at mabawasan ang pagdependet sa NVIDIA GPU. Sa ngayon, nananatiling pangunahing source ng computing power ng Microsoft inference business ang NVIDIA GPU.

Ayon kay Rani Borkar, namumuno sa data center hardware ng Microsoft: “Naniniwala kami na nakagawa kami ng pinakamahusay na produkto para sa mga workload na ito. Magsisimula kaming mag-deploy ng Maia sa gigawatt-level mula sa susunod na taon upang patunayan ang kumpiyansa namin sa gawa.”

Nauna nang nai-deploy ang unang henerasyon, susunod na taon naman ang bagong modelo

Matagal nang sinimulan ng Microsoft ang sariling chip strategy. Sa simula ng taon, nagsimulang mag-install ang kumpanya ng Maia 200, ang unang henerasyon ng produkto, sa mga data center. Sa kasalukuyan, ginagamit na ang chip na ito para paganahin ang Copilot at ibang AI software pati na rin ibang mga gawain.

Ayon kay Borkar, ang Maia 200 ay kayang suportahan ang OpenAI models, sariling AI models ng Microsoft, at ilang open-source model series. Sumaklaw na ang deployment sa mga data center sa Estados Unidos, Europa, at Australia, at nagbibigay ng AI capability para sa mga produkto gaya ng Microsoft Teams at Copilot.

Inaasahang magsisimula ang deployment ng bagong henerasyon ng Maia 300 sa susunod na taon. Umaasa ang Microsoft na, gamit ang energy efficiency nito, lalo pang mapapabuti ang allocation ng computing power at mapapababa ang inference costs sa patuloy na lumalaking AI business nito.

Sa landas ng sariling chip development, hinahabol ng Microsoft ang Google at Amazon

Sa harap ng mga higante ng cloud computing na abala sa pagpapaunlad ng sarili nilang AI chip, bahagyang nahuli ang Microsoft sa kanilang deployment. Nauna nang nagsimula ang Google at Amazon at nakapagtatag na ng unang-mover advantage sa larangan ng sariling chip development at binuksan na sa cloud customers ang kaukulang computing power.

Pinili naman ng Microsoft ang ibang modelo sa negosyo. Sabi ni Borkar: “Sapat na kalakihan ang aming sariling AI service business at nais naming unahing pagsilbihan ang sarili naming pangangailangan.”

Ibig sabihin nito, sa kasalukuyang yugto, mas nais ng Microsoft na gamitin ang Maia chip sa mga internal AI services kaysa direkta itong paupahan para kumita agad. Para sa mga investor, ang tunay na komersyal na halaga ng Maia ay mas nakasalalay kung mapapabuti nito ang efficiency ng AI services ng kompanya, mapababa ang inference cost, at sa huli ay mapataas ang profit margin ng kaugnay na negosyo, hindi kung gaano kalaki ng direktang kita ang malilikha ng chip rental business.