Jensen Huang: Cortaremos el suministro de chips a clientes que desarrollen software de IA inseguro; la escasez de infraestructura de IA continuará durante varios años.

El CEO de NVIDIA, Jensen Huang, afirmó que, si algún cliente desarrolla software de IA inseguro, dejará de suministrarle chips. Sin embargo, enfatizó que actualmente las preocupaciones del mercado sobre los riesgos de seguridad en IA están sobredimensionadas y que las teorías sobre una burbuja de IA también son exageradas.

Jensen Huang hizo estas declaraciones en una entrevista exclusiva con Bloomberg en Londres. Está de gira por Europa para promover un evento de la empresa que se celebrará próximamente en Berlín. Comentó que, antes de cortar el suministro, se comunicaría con los clientes involucrados y señaló que la tecnología de NVIDIA es de uso general, por lo que existen límites respecto a cómo la empresa juzga el uso que otros hacen de su tecnología.

Al mismo tiempo, NVIDIA anunció que donará 250 millones de dólares en los próximos cinco años para la investigación en seguridad de IA en el Reino Unido, con el fin de demostrar con acciones su compromiso con este tema.

El miércoles, las acciones de NVIDIA y otros fabricantes de chips cayeron fuertemente. Jensen Huang reiteró su optimismo sobre la demanda de infraestructura para IA, afirmando que el desequilibrio entre oferta y demanda persistirá por varios años. "Eventualmente la oferta y la demanda se equilibrarán, pero definitivamente no será hoy", dijo durante el evento en Londres.

NVIDIA es el principal proveedor de chips aceleradores para IA y sus productos son hardware esencial para entrenar y operar modelos de IA. Esta posición la coloca en el centro del debate sobre la seguridad de la IA.

Ante las preguntas externas, Jensen Huang fue claro: si un cliente es identificado como desarrollador de una IA irresponsable, está dispuesto a detener el suministro de productos—"Es un supuesto, pero la respuesta es sí".

No obstante, también marcó los límites de la intervención de NVIDIA. "No gestionamos las empresas de los demás, nuestro juicio sobre el uso que hacen otras compañías de nuestra tecnología es limitado; nuestra tecnología es de uso general", señaló, agregando que primero dialogaría con los clientes antes de cortar el suministro.

Esta postura refleja que, como proveedor de hardware clave, NVIDIA busca equilibrar la responsabilidad del sector con la neutralidad comercial ante las controversias sobre la seguridad de la IA.

Sobre algunos directivos de IA que piden ralentizar el ritmo de desarrollo del sector—como la sugerencia de Dario Amodei, CEO de Anthropic, de una desaceleración sectorial—Jensen Huang tiene una visión contraria.

Calificó las preocupaciones actuales de seguridad como “dolores de crecimiento” de una industria que se expande rápidamente, y cree que el software de IA puede ser controlado de manera efectiva y desplegado de forma segura.

"Muchas empresas jóvenes están experimentando dolores de crecimiento, están creciendo muy rápido", dijo. "A medida que las compañías maduren, también lo harán la responsabilidad y el sentido del deber."

También indicó que parte de la preocupación es "autoimpuesta" y que todo el sector ha hecho "un trabajo muy pobre" al explicar los beneficios de la nueva tecnología al público.

En cuanto a cómo abordar los riesgos de seguridad, Jensen Huang propuso una estrategia basada en la tecnología: utilizar la propia IA como herramienta para supervisar y controlar la IA.

"Deberíamos acelerar la integración de esta tecnología de defensa y control en los sistemas de IA, deberíamos acelerar el desarrollo de tecnología de supervisión, y la IA debe ser esa supervisora. Por eso, debemos acelerar el desarrollo de la tecnología de IA", manifestó.

Para apoyar esta iniciativa, NVIDIA anunció una donación para la investigación en seguridad de IA en el Reino Unido, que se facilitará mediante el uso de capacidad informática avanzada.

Varias instituciones académicas en el Reino Unido participarán, incluyendo la Universidad de Oxford y University College London; la investigación abarcará medidas de protección para la seguridad en IA y métodos de supervisión de agentes inteligentes.