Nebius (NBIS.US) Isroil startapi Inferize’ni sotib olib, AI taxmin qilish sohasidagi faoliyatini kuchaytirdi, shartnoma qiymati maksimal 150 million dollar bo‘lishi mumkin

Uzbek Finance APP xabariga ko'ra, AI bulut infratuzilma xizmat ko'rsatuvchisi Nebius(NBIS.US) Isroillik sun’iy intellekt startapi Inferize’ni sotib olganini e’lon qildi va bu orqali o‘zining AI inference infratuzilma salohiyatini yanada kuchaytirdi. Inferize grafik protsessorlar (GPU)ning bekor turishini kamaytirish va yirik AI modellari ishga tushirish tezligini oshirishga ixtisoslashgan. Isroilning texnologik nashri Calcalist bahosiga ko‘ra, ushbu bitimning qiymati 100 milliondan 150 million dollargacha oraliqda, biroq Nebius aniq moliyaviy shartlarni oshkor qilmagan.

Ushbu sotib olishning asosi GPU resurslaridan samarali foydalanish darajasini oshirishga qaratilgan bo‘lib, ayniqsa AI inference ehtiyojlari keskin o‘zgarganda, Nebius hisoblash resurslarini tezroq taqsimlash va qimmatli hisoblash uskunalarining bekor turishini kamaytirishda yordam beradi.

AI inference samaradorligini oshirishga qaratilgan - GPU bekor turishini kamaytirish

Inferize’ning asosiy texnologiyasi AI modellari joylashtirilishidagi “cold start” muammosiga qaratilgan. “Cold start” bu – AI modeli foydalanuvchi so‘rovida ishlashdan oldin, modelni yuklash va resurslarni ishga tayyorlash jarayoni. Yangi inference instance ishga tushirilganda, GPU modelni yuklash yakunlanishini kutishga majbur bo‘ladi va shu vaqt ichida resurslar bekor qolishi mumkin.

Bu muammo, ayniqsa, AI inference ehtiyojlari to‘satdan oshganda yaqqol ko‘zga tashlanadi. Foydalanuvchi so‘rovlari ko‘payganda, bulut xizmat ko‘rsatuvchilar ko‘proq inference instance’larni tezkor ishga tushirishlari kerak, biroq model yuklash ko‘p vaqt olsa, yangi GPU resurslari darhol ishga kirisholmaydi va bu xizmat tezligi hamda umumiy hisoblash samaradorligiga ta’sir qiladi.

Inferize texnologiyasi aynan shu kutish vaqti qisqarishiga qaratilgan bo‘lib, yangi inference resurslari tezroq ishga qo‘shilishini hamda hisoblash kengayishi real ehtiyojga yaqinlashishini ta’minlaydi.

Nebius uchun bu shuni anglatadiki, kompaniya ko‘p miqdorda bekor GPUlarni zaxira sifatida ushlab turmasdan, mijoz ehtiyojlariga moslashuvchan javob bera oladi va mavjud infratuzilmaning samaradorligini oshiradi.

Nebius bosh texnologiya direktori Danila Shtan, AI inference xizmatini samarali boshqarish nafaqat tez GPU va optimallashtirilgan modellardan, balki butun tizimning tezkor talab o‘zgarishiga javob bera olishidan iboratligini ta’kidladi. U, Inferize bu jarayonni tezlashtiruvchi texnologiyani taqdim etgani, shuningdek, GPU tizimlarida katta tajribaga ega muhandislar jamoasiga egaligini qayd etdi.

Nebius Inferize muhandislarini o‘z inference biznes jamoasiga qo‘shishni va ularning texnologiyasini o‘z AI inference platformasi – Token Factory’ga integratsiya qilishni rejalashtirmoqda, bu orqali platforma mijoz ehtiyojiga tezroq javob beradi hamda mavjud infratuzilma ko‘proq hisoblash vazifasini bajaradi.

Shtan, Inferize jamoasining kelajakda qo‘shadigan hissasi ushbu dastlabki texnologik integratsiya bilan cheklanib qolmasligini ham ta’kidladi.

Zaxira hisoblash xarajatlarini kamaytirish – AI infratuzilma ishlash samaradorligini oshirish

Inferize hammuassisi va bosh direktori Guy Bortnikov, mijozlar ehtiyojiga tezkor reaksiya berish uchun bulut xizmat ko‘rsatuvchilar ma’lum miqdordagi GPU resurslarni zaxirada ushlab turishlari kerakligini, bu esa qo‘shimcha xarajatlar deganini aytdi. U, Inferize tashkil etilishining asosiy maqsadi aynan shu xarajatlarni kamaytirish bo‘lgani va Nebius safiga qo‘shilish natijasida texnologiyalarini bevosita amaliyotda qo‘llash imkoniyati yaratilayotganini ta’kidladi.

AI inference biznesida hisoblash resurslarini boshqarish samaradorligi to‘g‘ridan-to‘g‘ri infratuzilmaning ishlash xarajatiga ta’sir qiladi. GPU qurilmalari juda qimmat bo‘lgani uchun, kompaniyalar potensial ehtiyoj cho‘qqisini qoplash maqsadida ko‘p miqdordagi bekor hisoblash quvvatini saqlashga majbur bo‘lsalar, umumiy sarmoyalarni qoplashda muammoga duch kelishadi.

Model ishga tushish vaqtini qisqartirish va hisoblash resurslarini tezroq ishga kiritish orqali, Nebius xizmat moslashuvchanligini oshirgan holda zaxira GPU sig‘imini qisqartirishi mumkin bo‘ladi.

Qayd etish joizki, Bortnikov ilgari hisoblash infratuzilmasini optimallashtirish dasturiy kompaniyasi Granulate’ni ham hammuassis sifatida tashkil etgan va bu kompaniya hisoblash samaradorligini oshirishga qaratilgan texnologiyani ishlab chiqib, 2022 yilda Intel(INTC.US) tomonidan sotib olingan. Bu ham Inferize jamoasi hisoblash infratuzilmasini optimallashtirish borasida yetarli tajribaga ega ekanini ko‘rsatadi.

AI texnologiyasi kompaniyalarini ketma-ket sotib olish – Nebius inference platformasini mustahkamlashni davom ettirmoqda

Inferize’ni sotib olish – Nebius tomonidan yaqinda AI inference va model optimallashtirish yo‘nalishida amalga oshirilgan qator sotib olishlardan biri. Bungacha, Nebius Eigen AI kompaniyasini 643 million dollarga sotib olgan. Bundan tashqari, kompaniya yaqinda yana bir AI texnologiyasi kompaniyasi Clarifai’ni sotib oldi, biroq bu bitim tafsilotlari oshkor qilinmagan.

Ushbu sotib olishlar barchasi Nebius’ning AI inference va model optimallashtirish imkoniyatlarini mustahkamlashga, uning AI infratuzilma xizmatlarini yanada takomillashtirishga xizmat qiladi.

Asosan AI model training uchun zarur bo‘lgan hisoblash quvvatiga qaratilgan infratuzilma sarmoyasidan farqli, AI inference model real ishlashidagi samaradorlik, jumladan, so‘rovlarni qayta ishlash tezligi, hisoblash resurslarini boshqarish, model joylashtirish va hisoblash birligi uchun xarajatlarni qamrab oladi.

Nebius ushbu texnologiyalarni izchil integratsiya qilish orqali o‘z biznesini GPU hisoblash resurslari taqdimotidan AI modellari real ishlash samaradorligi uchun texnologiya va xizmatlarni rivojlantirishga yo‘naltirmoqda.

Inferize’ni sotib olish Nebius’ning dinamik hisoblash resurslarini taqsimlash va modellarning tez joylashtirish texnologiyalarini yana-da to‘ldiradi. Biroq, texnologik integratsiya orqali aniq qay darajada xarajat tejash va samaradorlikka erishiladi – bu boradagi natijalar keyingi faoliyatda o‘z tasdig‘ini topishi kerak bo‘ladi.