¡Token multiplica su velocidad por 30 y desafía el reinado de las GPU! BNP Paribas elogia a Cerebras (CBRS.US) por el lanzamiento del CS-4, dando inicio a una nueva era de inferencia “a nivel de oblea y desacoplada”.

Según pudo saber la APP de Jinse Finance, tras el evento Supernova Day organizado el martes por la empresa de chips de inteligencia artificial (AI) Cerebras Systems (CBRS.US), BNP Paribas expresó que los socios anunciados y los comunicados relacionados por la compañía le dejaron una impresión profunda.

Karl Ackerman, analista de BNP Paribas, escribió en un informe para los clientes: “Al igual que el LPU de Nvidia (NVDA.US), las nuevas alianzas de Cerebras con OpenAI, Amazon (AMZN.US) AWS y AMD (AMZ.US) evidencian la creciente demanda en el mercado por mejorar los procesos de inferencia, especialmente en la etapa de decodificación, que es altamente sensible a la latencia”.

El analista agregó que, en lo referente a inferencias rápidas, el recientemente anunciado motor de escala de wafer CS-4, basado en SRAM, ofrece un impresionante ancho de banda de memoria en chip de 43,2 PB/s, además de incorporar una nueva interfaz de I/O de wafer que utiliza RDMA. Cerebras destaca con orgullo que el sistema CS-4 puede generar tokens a una velocidad 30 veces superior a los sistemas GPU que operan en entornos productivos actuales.

Asimismo, el analista señaló que la hoja de ruta de productos de Cerebras, que duplica el rendimiento anualmente y planea aumentar el throughput 20 veces hacia 2027, es admirable. El analista indicó: “Cerebras se está enfocando en la inferencia desacoplada, posicionando su motor de escala de wafer como un motor de decodificación ultrarrápido para maximizar la generación rápida de tokens y colaborar con sistemas intensivos en cómputo como AWS Trainium o AMD Helios. Cerebras asegura que su sistema de inferencia desacoplada podría ser hasta 10 veces más rápido que las GPUs y ofrece una mejora de rendimiento 5 veces superior comparado con las configuraciones que solo utilizan WSE”.

Finalmente, el analista mencionó que Arista Networks (ANET.US) se ha convertido en el socio de red “clave” de Cerebras, y que se espera que esta colaboración ayude a Arista a expandir sus escenarios de aplicaciones para nuevos clientes con el tiempo.

Se informa que Cerebras presentó oficialmente el martes durante el evento Supernova Day el sistema AI de nueva generación a nivel rack, Cerebras CS-4, proclamándolo como “el acelerador de AI más rápido de la industria”. Este sistema está dirigido al campo de inferencia de modelos grandes y compite directamente con los productos de servidores GPU de Nvidia. Además, Cerebras anunció durante el evento alianzas con compañías como OpenAI, AMD, Arista Networks, AWS, Figma, Cognition y CrowdStrike.

CS-4 es el primer producto de la nueva generación de la arquitectura de plataforma Nexus a nivel rack de Cerebras, impulsado por tres procesadores Wafer Scale Engine 3 Turbo (WSE-3T) completamente nuevos. WSE-3T es el procesador AI más grande fabricado hasta la fecha, cada chip integrando 4 billones de transistores y 900 mil núcleos optimizados para AI, cubriendo 46.225 mm² de silicio con 44 GB de SRAM incorporados. El sistema CS-4 ofrece 750 PFLOPs de potencia de cómputo AI, 129,6 PB de ancho de banda de memoria por segundo y 7,2 Tbps de throughput de I/O por segundo. La potencia de cómputo AI por chip WSE-3T se ha duplicado de 125 PFLOPS de la generación anterior a 250 PFLOPS, mientras que el ancho de banda de memoria ha pasado de 21,6 PB/s a 43,2 PB/s.

Cerebras afirma que el CS-4 ha establecido un nuevo estándar en la industria en cuanto a velocidad de inferencia. En pruebas comparativas directas sobre el modelo GPT-OSS-120B, el CS-4 puede generar más de 4.400 tokens por usuario por segundo, alcanzando hasta 30 veces la velocidad de las soluciones GPU. El sistema puede soportar modelos con más de 50 billones de parámetros. Comparado con la generación anterior CS-3, el CS-4 es el doble de rápido y mejora el throughput por vatio en 10 veces, beneficiando significativamente la eficiencia económica de los centros de datos.