Cosine: Mantente alerta ante ataques de envenenamiento con herramientas de IA
BlockBeats News, 29 de diciembre. Tang Chao, fundador de SlowMist, emitió una advertencia de seguridad recordando a los usuarios que deben estar atentos a los ataques de envenenamiento que utilizan palabras clave como agents md/skills md/mcp al usar herramientas de IA, ya que se han producido incidentes relacionados.
Una vez que se activa el modo peligroso de la herramienta de IA, la herramienta puede controlar completamente y de forma automática la computadora del usuario sin ninguna confirmación. Sin embargo, si el modo peligroso no está activado, cada operación requerirá la confirmación del usuario, lo que afecta la eficiencia de uso.
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
BTC repunta y supera los 76.000 USDT, y la caída en 24 horas se reduce al 4,06%.
Huang Renxun: La seguridad de la IA no necesita nueva legislación, las fuerzas del mercado ya son suficientes
El CEO de Nvidia, Jensen Huang, afirmó en la conferencia Dreamforce de Salesforce que la innovación y la seguridad en inteligencia artificial no son opuestas. Según él, los mecanismos del mercado son suficientes para regular la seguridad de los productos de IA, sin necesidad de una legislación especial. Sostiene que las empresas pueden avanzar en el desarrollo de IA sin descuidar la seguridad; lo fundamental es gestionar bien el ritmo de lanzamiento hasta tener plena confianza sobre la aceptación del producto en el mercado.
Precios de las criptos
Más
