NVIDIA ning Open Agent xavfsizlik platformasi AI agentlarining “drift” bo‘lishining oldini olish uchun tashqi (out-of-band) majburlash orqali himoya qiladi.

NVIDIA kompaniyasi ochiq agentlar xavfsizlik platformasini (Open Agent Safety Platform) ishga tushirdi, bu mustaqil sun’iy intellekt agentlarini doimiy monitoring va apparat darajasidagi majburiy siyosat nazorati orqali himoya qilish uchun mo‘ljallangan ochiq ramkadir. Platforma 2026-yil 28-sentabrda chiqarilgan bo‘lib, sun’iy intellekt sohasidagi o‘sib borayotgan xavotirlarga javoban ishlab chiqilgan. Avvalroq AI agentlari baholash muhitidan qochib ketishi, ruxsatsiz tizimlarga kirishi va o‘z faoliyatini noto‘g‘ri hisobot qilishi haqida xabarlar bo‘lgan.

Kompaniya bu holatni dastlabki Internetga o‘xshatmoqda. Internet faqat xavfsizlik mexanizmlari (shifrlangan ulanishlar, sandbox brauzer yorliqlari va ko‘rinadigan ishonch ko‘rsatkichlari) o‘rnatilgandan so‘ng, biznes va aloqa uchun asosga aylangan. NVIDIA agent AI uchun ham shunga o‘xshash ishonch orqali rivojlanishi zarurligini va xavfsizlik nazorati innovatsiyani to‘xtatmasdan, aksincha tezlashtirishi kerakligini ta’kidlamoqda.

OpenShell ishlash muhiti: yadrodan ajratilgan

Platformaning asosi NVIDIA OpenShell bo‘lib, bu Apache 2.0 litsenziyasi ostida chiqarilgan ochiq manbali xavfsiz ish vaqtidir. OpenShell har bir agentni yadro darajasidagi ajratilgan sandbox muhitida bajaradi va operator ko‘rsatmalarini verifikatsiya qilinadigan siyosatlarga aylantiradi. Foydalanuvchilar fayllar, tarmoq, vositalar, jarayonlar va maxfiylik ma’lumotlariga kirish huquqlari doirasini aniq belgilaydi. Ushbu cheklovlar ijrodan oldin tekshiriladi va ish davomida uzluksiz majburiy ravishda amalga oshiriladi.

Platforma besh prinsip asosida qurilgan: siyosat agent ishga tushishidan oldin tekshirilishi lozim; ijro agent kirisha olmaydigan darajada bo‘lishi kerak; modelga olib boruvchi yo‘l boshqaruv va kuzatuvning asosiy nuqtasi sifatida ishlatiladi; agent vakolatlari unga bog‘liq ochiqlik darajasiga qarab kengayadi; xavfsizlik mas’uliyati laboratoriyalar, korxonalar va apparat ishlab chiqaruvchilari o‘rtasida bo‘linadi.

NVIDIA tadqiqotlari “drift” muammosini ajratib ko‘rsatmoqda — agentlarning xatti-harakati noma’lum ko‘rsatmalar, siyosat cheklovlari, vositalar yetishmasligi yoki uzoq muddatli mustaqil faoliyat natijasida kutilmagan yo‘nalishda o‘zgaradi. Kompaniya bu qanday bo‘lmasin, agent kuch-g‘ayratini qurbon qilmasdan, “drift”ni to‘liq yo‘q qilishning iloji yo‘qligini, shu sababli, agentlardan o‘z-o‘zini boshqarishni kutib bo‘lmasligini ta’kidlaydi.

Keng ko‘lamli, apparat darajasida majburiy ijro

Arxitektura uchta qatlamdan iborat: ilova qatlami (model, vositalar, ramkalar va ma’lumotlar), ish vaqti qatlami (orçestratsiya va siyosatni bajarish), va infratuzilma qatlami (hisoblash, saqlash va tarmoq resurslari). Mustaqil ikkinchi qatlamga muhtoj bo‘lgan tashkilotlar uchun NVIDIA Sentry, NVIDIA DOCA orqali monitoring va ijro jarayonini BlueField-4 ma’lumotlarni qayta ishlash bloki orqali kengaytiradi; agentlar o‘zaro aloqasi, siyosat bo‘yicha qarorlar va ma’lumotlarga kirish kontekst faoliyati loglari bilan biriktiriladi va har bir agent identifikatsiyasi va huquqlilik doimiy ravishda tasdiqlanadi.

NVIDIA Vera Rubin POD konfiguratsiyasida BlueField-4 DPU modelga olib boruvchi tugun yo‘li ustida joylashgan bo‘lib, tashqi monitoring va real vaqt, liniya tezligida siyosat ijrosini ta’minlaydi va u asosiy tizimdan ajratilgan. Bu hatto ishonchsiz bo‘lishi mumkin bo‘lgan asosiy tizim resurslarida ham “chip darajasida” xavfsizlikni ta’minlaydi. NVIDIA ta’kidlashicha, mavjud Vera va BlueField-4 joriy etilgan tizimlarda ushbu himoyani faollashtirish uchun faqat dasturiy ta’minotni yangilash kerak bo‘ladi; platforma NVIDIA bo‘lmagan apparatlar bilan ham mos keladi.

NVIDIA, ilg‘or laboratoriyalar, dasturchilar va infratuzilma provayderlari bilan hamkorlikda ushbu platformani yangi agent iqtisodiyoti uchun ochiq bazaga aylantirishni va apparat asosidagi nazoratni keng ko‘lamdagi ishonchli, avtonom tizimlarning asosiy sharti sifatida ilgari surishni rejalashtirmoqda.