Модель OpenAI «вышла из-под контроля» — прозвучал тревожный звонок, Microsoft (MSFT.US) срочно запустила недорогую модель кибербезопасности.

По данным Zhituo Finance APP, на фоне оживлённых дискуссий вокруг инцидента с «выходом из-под контроля» модели OpenAI, компания Microsoft (MSFT.US) в понедельник представила новую модель искусственного интеллекта (AI) для выявления уязвимостей в кибербезопасности. Это первый значимый продукт для возрождения бизнеса по кибербезопасности Microsoft после возвращения бывшего топ-менеджера Google Хайт Гарротт на должность главы отдела безопасности.

Microsoft заявила, что при использовании совместно с универсальной большой моделью OpenAI GPT-5.4, её модель MAI-Cyber-1-Flash на тесте CyberGym показала результаты лучше, чем Mythos 5 от Anthropic, 3.5 Flash Cyber от Google и GPT-5.5 Cyber от OpenAI.

Главный исполнительный директор AI-подразделения Microsoft Мустафа Сулейман на корпоративном мероприятии в Сан-Франциско отметил: «Наши модели имеют мировое лидерство по производительности, а стоимость — лишь половина от конкурентов».

Данная генеративная модель стала первой моделью Microsoft, ориентированной на задачи кибербезопасности. В блоге Гарротт представила этот продукт, а также объявила, что модель будет интегрирована в программу Microsoft Project Perception. Эта программа объединяет несколько AI-агентов, способных обнаруживать и устранять уязвимости систем, и будет доступна для публичного предварительного просмотра с 3 августа.

Она вернулась в Microsoft в феврале, заняв должность исполнительного вице-президента по безопасности. Предыдущий руководитель этого направления, бывший топ-менеджер облачного бизнеса Amazon Чарли Белл, теперь работает в качестве независимого технического специалиста.

Генеративный AI значительно снизил порог начала атак хакеров, использующих новейшие публично известные уязвимости. В связи с этим Anthropic и OpenAI уже выпустили защитные AI-модели для специалистов по кибербезопасности.

С начала этого года акции Microsoft упали на 19%. Аналитическая команда UBS под руководством Карла Килстеда в отчёте в воскресенье написала: «Учитывая общерыночное мнение, что open-source AI-модели займут часть рынка у ведущих лабораторий, инвесторы теперь пересматривают стратегию глубокого партнёрства Microsoft с OpenAI и воспринимают это как потенциальный риск». Тем не менее, Килстед сохраняет рейтинг «покупать» по Microsoft.

В этом году Microsoft последовательно выпускает собственные крупные модели: сначала был представлен кодогенерирующий AI в инструменте GitHub Copilot, а недавно внедрили собственную нативную AI-модель в программное обеспечение для работы с таблицами Excel. Генеральный директор Microsoft Сатья Наделла поддерживает стратегическое сотрудничество с OpenAI, но также инвестирует вычислительные ресурсы для обучения собственных моделей в целях повышения эффективности операций.

В понедельник Наделла написал в соцсети X: «Объединяя специализированные модели, отраслевые данные, подходящих агентов, инструменты, безопасные среды и системы, мы можем повысить эффективность при оптимальных затратах».

С 2023 года Microsoft больше не раскрывает объём выручки от бизнеса кибербезопасности, хотя в тот год доход этого направления превысил 20 млрд долларов.

В 2023 году Microsoft представила для специалистов по кибербезопасности ассистента Security Copilot, интегрированного с GPT-4 от OpenAI. Сейчас этот сервис предустановлен в двух премиальных офисных пакетах Microsoft. После получения соответствующей лицензии Project Perception может рекомендовать и реализовывать изменения кода, а также подключаться к сторонним продуктам, не относящимся к Microsoft.

Гарротт в интервью отметила, что руководители в индустрии кибербезопасности рассматривают этот инструмент как ключ к решению задач: он позволяет снизить порог вхождения для специалистов по безопасности и привлечь больше персонала в центры управления безопасностью (SOC), так как таких специалистов на рынке крайне мало. Обычно компании создают SOC с большим штатом для мониторинга угроз своим IT-системам.

Инцидент с выходом из-под контроля модели OpenAI выявил отраслевые проблемы, вопрос построения защитных рамок для AI стал приоритетом

На прошлой неделе OpenAI заявила, что её модель использовала уязвимость для атаки на инфраструктуру AI-стартапа Hugging Face. Этот случай продемонстрировал потенциальные риски принятия самостоятельных решений крупными моделями и привлёк к проблеме AI-безопасности широкое внимание индустрии.

В этой связи члены Конгресса США от обеих партий предложили «‌Закон о выключателе для AI‌» (AI Kill Switch Act), который должен предоставить федеральным ведомствам полномочия при необходимости приостанавливать работу AI-моделей. Сейчас законопроект находится на рассмотрении Конгресса и официально не вступил в силу‌.

Кроме того, сообщается, что на этой неделе генеральный директор OpenAI Сэм Олтман и генеральный директор Nvidia Хуанг Жэньсюнь встретятся с руководителем демократов в Комитете по разведке Сената США Марком Уорнером для обсуждения вопросов развития и безопасности AI.

Глава Microsoft AI Сулейман назвал инцидент с атакой на OpenAI «предупреждающим сигналом» для сферы кибербезопасности. Он указал, что это — важный маркер роста AI-атак: «По мере усиления моделей превентивные меры становятся критически важными».

Гарротт также прокомментировала: «Этот кейс полностью доказывает, что для защиты от кибератак с применением AI-инструментов мы непременно должны строить защиту на базе AI».

У новой модели Microsoft для кибербезопасности есть значительный потенциал для повышения производительности.

В интервью Сулейман сообщил: «У нас уникальный массив огромных данных безопасности, но текущие модели были обучены на менее чем 1% этих данных».