El modelo de OpenAI "fuera de control" enciende las alarmas y Microsoft (MSFT.US) lanza rápidamente un modelo de ciberseguridad de bajo costo

Argentinos Finanzas APP informó que, en medio del debate generado por el incidente de "descontrol" del modelo de OpenAI, Microsoft (MSFT.US) lanzó el lunes un nuevo modelo de Inteligencia Artificial (IA) diseñado para detectar vulnerabilidades de ciberseguridad. Este lanzamiento marca el primer producto importante para revitalizar el negocio de ciberseguridad desde que Heyt Garrote, exejecutiva de Google, fue nombrada directora del área por primera vez.

Microsoft afirmó que, cuando se utiliza junto con el modelo base de OpenAI, GPT-5.4, su modelo MAI-Cyber-1-Flash supera a Mythos 5 de Anthropic, 3.5 Flash Cyber de Google y a GPT-5.5 Cyber de OpenAI en las pruebas de referencia CyberGym.

Mustafa Suleyman, CEO de la división de IA de Microsoft, declaró en un evento en San Francisco: “El rendimiento de nuestro modelo está entre los mejores del mundo, y el costo es solo la mitad del de la competencia.”

Este modelo generativo es el primer modelo de Microsoft orientado específicamente a escenarios de ciberseguridad. Garrote explicó en un blog que el modelo será integrado al Proyecto Percepción de Microsoft (Project Perception). Este proyecto reúne varios agentes inteligentes de IA capaces de identificar y solucionar vulnerabilidades del sistema y estará disponible para prueba pública a partir del 3 de agosto.

Ella regresó a Microsoft en febrero para asumir el puesto de vicepresidenta ejecutiva de la división de seguridad, mientras que el anterior responsable, Charlie Bell, exejecutivo de Amazon Web Services, pasó a ser investigador tecnológico independiente.

La IA generativa ha reducido significativamente las barreras para que hackers puedan explotar vulnerabilidades recién reveladas. Por esa razón, Anthropic y OpenAI también han lanzado modelos de IA defensivos para profesionales de ciberseguridad.

En lo que va del año, las acciones de Microsoft han caído un 19%. El equipo de analistas de UBS liderado por Karl Kierstead escribió el domingo en un informe: “Dado que el mercado cree que los modelos de IA open source captarán cuota de mercado de los laboratorios de vanguardia, los inversionistas ahora reevalúan la apuesta de Microsoft por un vínculo profundo con OpenAI, viéndolo como un riesgo potencial .” Sin embargo, Kierstead mantiene la calificación de “Comprar” para Microsoft.

Este año Microsoft ha lanzado varios modelos propios: primero uno capaz de generar código en la herramienta GitHub Copilot y recientemente ha integrado un modelo IA nativo a su software de Excel. Satya Nadella, CEO de Microsoft, mantiene su cooperación con OpenAI, pero también invierte recursos computacionales en entrenar modelos propios para mejorar la eficiencia operativa.

Nadella publicó el lunes en la plataforma X: “Al combinar modelos dedicados, datos de industrias, agentes inteligentes adaptados, herramientas, entornos seguros y sistemas, podemos aumentar la eficiencia en costos.”

Desde 2023, Microsoft no ha revelado públicamente los ingresos de su negocio de ciberseguridad; ese año el área superó los 20 mil millones de dólares.

En 2023, Microsoft lanzó el "Security Copilot" para profesionales de ciberseguridad, que integraba GPT-4 de OpenAI. Este servicio ya viene preinstalado en dos suites premium de ofimática de Microsoft. Tras recibir autorización, Project Perception puede proponer e implementar cambios de código, y conectarse con productos ajenos a Microsoft.

Garrote declaró en una entrevista que los ejecutivos del sector ven esta herramienta como la clave para romper el statu quo: permite bajar la barrera de entrada para talentos de operación en seguridad, atrayendo más personal para los Centros de Operaciones de Seguridad (SOC), ya que estos profesionales son escasos. Las empresas suelen tener un SOC con numerosos empleados encargados de monitorear amenazas contra los sistemas de TI.

El ataque descontrolado del modelo de OpenAI expone riesgos sectoriales, aumenta la importancia de las medidas de seguridad de IA

La semana pasada, OpenAI notificó que uno de sus modelos aprovechó una vulnerabilidad para atacar la infraestructura de la startup Hugging Face. Este incidente reveló los riesgos potenciales de los modelos de IA avanzado bajo decisiones autónomas, generando gran preocupación respecto a la seguridad y protección de la IA.

En respuesta, legisladores bipartidistas del Congreso de EE.UU. propusieron la Ley del Interruptor de IA (AI Kill Switch Act), destinada a conceder a organismos federales la facultad de suspender el funcionamiento de modelos IA bajo circunstancias necesarias; la propuesta aún está en etapa legislativa y no ha tomado efecto.

Por otro lado, se informó que Sam Altman, CEO de OpenAI, y Jensen Huang, CEO de Nvidia, se reunirán esta semana con Mark Warner, líder demócrata del Comité de Inteligencia del Senado de EE.UU., para discutir sobre el desarrollo y la seguridad de la IA.

Suleyman, responsable de IA en Microsoft, calificó el episodio de OpenAI como una “alarma” para el campo de ciberseguridad. Suleyman señaló que esto es una señal importante del auge de ciberataques con IA. “A medida que los modelos se vuelven más poderosos, el principio de prevención se vuelve crucial.”

Garrote también comentó: “Este caso demuestra que, ante atacantes armados con herramientas IA, debemos recurrir a la tecnología IA para construir defensas.”

El nuevo modelo de ciberseguridad de Microsoft aún dispone de margen significativo para optimizar su rendimiento.

Suleyman reveló en una entrevista: “Contamos con conjuntos de datos de seguridad masivos y exclusivos, pero hasta ahora solo se usó menos del 1% de ese repositorio para entrenar el modelo.”