Laporan: Microsoft akan mengimplementasikan chip AI buatannya sendiri secara besar-besaran tahun depan, dengan target meningkatkan efisiensi inferensi sebesar 40%.

Microsoft semakin gencar mengembangkan chip AI sendiri, berencana menerapkan chip seri Maia dalam skala gigawatt untuk secara bertahap mengurangi ketergantungan pada GPU Nvidia, serta mengendalikan biaya infrastruktur AI dengan meningkatkan efisiensi inferensi.

Pada 12 Oktober, menurut Bloomberg, Microsoft mengumumkan pada Senin bahwa chip Maia 300 generasi terbaru akan mulai diterapkan di pusat data tahun depan dan dirancang khusus untuk tugas-tugas AI inferensi. Microsoft memperkirakan bahwa jumlah token yang dapat diproses Maia 300 per megawatt akan 40% lebih banyak daripada sistem GPU utama, yang berarti pada konsumsi energi yang sama dapat menangani lebih banyak beban kerja AI.

Berbeda dengan Google dan Amazon yang telah membuka kekuatan chip AI mereka untuk pelanggan cloud, Microsoft saat ini tidak berniat menyewakan kapasitas chip Maia secara langsung kepada pelanggan eksternal. Pilihan ini mencerminkan prioritas Microsoft: mendahulukan pemenuhan kebutuhan layanan AI internal dengan chip sendiri, lalu mengubah efisiensi perangkat keras menjadi keunggulan bisnis.

Penerapan berskala gigawatt, keunggulan efisiensi energi menjadi inti

Microsoft mengembangkan chip sendiri pada dasarnya bertujuan meningkatkan efisiensi inferensi AI dan menurunkan biaya operasional.

Inferensi adalah proses menjalankan tugas nyata menggunakan model AI yang telah dilatih, seperti merangkum catatan rapat atau menjawab pertanyaan penelitian, yang juga menjadi sumber permintaan komputasi penting pada aplikasi AI. Microsoft menyatakan bahwa seri Maia dirancang khusus untuk beban kerja inferensi di pusat data perusahaan sendiri, memungkinkan pelaksanaan tugas terkait lebih efisien dan mengurangi kebutuhan pembelian GPU Nvidia, yang saat ini masih menjadi sumber utama komputasi inferensi Microsoft.

Kepala bisnis perangkat keras pusat data Microsoft, Rani Borkar, menyampaikan: “Kami percaya, kami telah menciptakan produk terbaik untuk beban kerja ini. Mulai tahun depan, kami akan menerapkan Maia berskala gigawatt sebagai bukti nyata keyakinan kami.”

Produk generasi sebelumnya telah digunakan di banyak lokasi, model baru akan melanjutkan tahun depan

Strategi chip AI internal Microsoft sudah dimulai sejak lama. Awal tahun ini, perusahaan mulai memasang chip Maia 200 generasi sebelumnya di pusat data, yang kini digunakan untuk menjalankan Copilot dan aplikasi AI lainnya.

Borkar menjelaskan, Maia 200 dapat mendukung model OpenAI, model AI internal Microsoft, serta berbagai seri model open-source, dengan penerapan di pusat data Amerika Serikat, Eropa, dan Australia, menyediakan dukungan AI untuk produk seperti Microsoft Teams dan Copilot.

Maia 300 generasi terbaru diperkirakan akan mulai diterapkan tahun depan. Microsoft berharap mengoptimalkan konfigurasi komputasi dan menurunkan biaya inferensi lebih jauh dalam bisnis AI yang terus berkembang dengan keunggulan efisiensi energi chip ini.

Microsoft mengejar Google dan Amazon di jalur chip AI internal

Dalam konteks para raksasa cloud computing yang berlomba mengembangkan chip AI sendiri, strategi Microsoft terbilang lebih lambat. Google dan Amazon memulai lebih awal dan sudah memiliki keunggulan sebagai pelopor di bidang chip internal, serta membuka kapasitas komputasi mereka untuk pelanggan cloud.

Microsoft memilih jalur bisnis yang berbeda. Borkar mengatakan: “Layanan bisnis AI kami sendiri sudah sangat besar, kami ingin memprioritaskan melayani diri sendiri.”

Artinya, Microsoft saat ini lebih memilih menggunakan chip Maia untuk kebutuhan internal AI ketimbang menciptakan pendapatan langsung dengan menyewakan komputasi. Bagi investor, nilai komersial Maia akan lebih bergantung pada kemampuan chip meningkatkan efisiensi operasional layanan AI, menurunkan biaya inferensi, dan pada akhirnya memperbaiki margin bisnis terkait daripada pendapatan langsung dari bisnis penyewaan chip.