OpenAI Jalapeño Chip desafía a Nvidia con una inferencia más rápida

• Jalapeño superó a Nvidia GB300 en velocidad de respuesta y rendimiento de IA por vatio en pruebas públicas.
• El procesador de 700 vatios está enfocado en inferencia de IA, no en entrenamiento de modelos.
• OpenAI planea implementar el chip este año mientras desarrolla la segunda y tercera generación.

OpenAI planea desplegar el chip OpenAI Jalapeño en toda su infraestructura de IA para fines de 2026. En pruebas públicas, el procesador de inferencia superó al GB300 de Nvidia en trabajo por vatio y velocidad de respuesta. Richard Ho, jefe de chips de OpenAI, dijo que el diseño combina un alto rendimiento con baja latencia. Los resultados se aplican a la inferencia, no al entrenamiento de modelos.

El chip OpenAI Jalapeño supera al GB300 en dos pruebas de inferencia

El chip OpenAI Jalapeño funciona a 700 vatios. Ese nivel de consumo puede reducir los costes de electricidad, refrigeración y distribución en los centros de datos. Ho dijo que el procesador puede atender a más usuarios a menor costo y ofrecer respuestas más rápidas para tareas sensibles a la latencia.

OpenAI probó el hardware con un modelo de código abierto más pequeño y modelos de terceros de DeepSeek y Moonshot AI. Kimi, de Moonshot, la carga de trabajo pública más grande evaluada, mostró las mayores mejoras. Según la empresa, también se realizaron pruebas internas sobre modelos no publicados de OpenAI.

Sin embargo, Jalapeño no se enfrentó a la nueva plataforma Vera Rubin de Nvidia, que ya comenzó a distribuirse. SemiAnalysis calificó la comparación con el GB300 como incompleta, ya que Jalapeño utiliza memoria HBM4. Rubin de Nvidia también usa HBM4, lo que la convierte en una comparación técnica más adecuada.

OpenAI decidirá qué modelos funcionarán con el procesador. Así, los clientes podrían elegir opciones enfocadas en menores costos o mayor rendimiento. Ho comentó que este enfoque debería mejorar los tiempos de respuesta y la disponibilidad del servicio a medida que aumenta la demanda de modelos.

La asociación con Broadcom impulsa los chips personalizados de inferencia de IA

El chip OpenAI Jalapeño fue desarrollado junto a Broadcom, proveedor de silicio personalizado para grandes empresas tecnológicas. OpenAI indicó que sus modelos de IA ayudaron a acelerar el proceso de diseño. Una segunda generación está cerca de la producción final (“tape-out”), mientras que los ingenieros ya están trabajando en los conceptos para una tercera.

Ho afirmó que Jalapeño puede manejar modelos más grandes que algunos sistemas especializados de baja latencia. Sin embargo, OpenAI espera seguir utilizando a Cerebras y otros proveedores de computación. La demanda de sus servicios sigue siendo demasiado grande para depender de un solo programa de chips.

El chip OpenAI Jalapeño podría reducir el costo por unidad de inferencia, pero no puede entrenar modelos de frontera. Nvidia sigue siendo fundamental para el entrenamiento, la amplia programabilidad y el soporte de CUDA. Ho describió a Nvidia como un socio clave y aseguró que OpenAI continuará comprando su hardware.