Buterin impulsa a Info Finance para detener los exploits en la gobernanza de la IA
- Vitalik advierte que la gobernanza ingenua de la IA es vulnerable a manipulaciones y explotaciones.
- La info finance genera diversidad de modelos y correcciones rápidas, haciendo la gobernanza de la IA más segura.
- Los mercados de predicción y las verificaciones aleatorias ayudan a asegurar la toma de decisiones y el financiamiento de la IA.
El cofundador de Ethereum, Vitalik Buterin, advirtió que los modelos ingenuos de gobernanza de la IA presentan riesgos serios y señaló que los marcos que dependen de la IA para la financiación o la toma de decisiones siguen siendo vulnerables a manipulaciones y explotaciones. En su opinión, estos sistemas permiten que actores maliciosos desvíen recursos; sin embargo, él aboga por un enfoque llamado “info finance”, diseñado para construir responsabilidad y prevenir el mal uso a través de mercados, supervisión humana y controles.
El caso en contra de la gobernanza ingenua de la IA
Buterin enfatizó que la gobernanza ingenua de la IA es riesgosa y agregó que si se utiliza la IA para asignar fondos, las personas podrían manipularla con prompts a su elección y obtener dinero en exceso. Explicó además que si los modelos funcionaran sin restricciones ni directrices, podrían ser mal utilizados, incentivando así a hackers a usar prompts y engañar a la IA para liberar recursos incorrectos.
Estas vulnerabilidades ponen a la IA en un ciclo potencialmente peligroso. Además, Buterin reveló debilidades sistémicas que, si no se controlan, podrían ser manipuladas. Ataques invisibles e inyecciones de prompts son ejemplos de cómo los atacantes pueden aprovecharse fácilmente.
Info Finance como alternativa
Buterin opta por la info finance en lugar de la gobernanza ingenua, describiéndola como un enfoque de “diseño institucional”, que combina la competencia de mercado abierto con la verificación humana. Él dijo,
Como alternativa, apoyo el enfoque de info finance, donde existe un mercado abierto en el que cualquiera puede contribuir con sus modelos, los cuales están sujetos a un mecanismo de verificación aleatoria que puede ser activado por cualquiera y evaluado por un jurado humano.
Detalló que la Info Finance permite que contribuyentes externos integren modelos de lenguaje grande (LLMs) sin codificar rígidamente un solo sistema. Esto permitirá la diversidad de modelos, reduciendo así la posibilidad de fallas generalizadas. También crea incentivos para que desarrolladores y especuladores estén atentos a fallas y actúen rápidamente cuando surjan problemas.
Un mecanismo propuesto implica mercados de predicción o mercados de decisión. Varios modelos competirían y los participantes podrían apostar sobre los resultados, señalando cuáles modelos parecen más confiables. Jurados o auditores humanos verificarían periódicamente los resultados, especialmente en casos de alto riesgo.
Relacionado: Las tesorerías de ETH aumentan a $12B mientras Vitalik advierte sobre riesgos de apalancamiento
Implicancias para cripto y mercados
La info finance se basa en la responsabilidad en capas, y es notable en la competencia abierta, que permite desafiar o reemplazar modelos defectuosos. La supervisión humana se agrega a través de jurados y auditorías. Los incentivos económicos impiden la manipulación, mientras que la transparencia hace visible el comportamiento malicioso.
Al vincular la gobernanza de la IA con blockchain y el trading, Buterin sugiere que las fallas en la IA centralizada podrían aumentar el interés en soluciones descentralizadas, principalmente construidas sobre Ethereum. Además, tokens como RNDR de Render Network y GRT de The Graph proveen infraestructura para cálculos de IA, beneficiándose así del desarrollo. Asimismo, los traders también podrían usar ETH y estos tokens para arbitraje en medio de la volatilidad del mercado.
Los datos on-chain indican que hay más transacciones de ETH asociadas con contratos inteligentes relacionados con IA y que los problemas de gobernanza de la IA pueden impactar también en acciones tecnológicas, con empresas como NVIDIA y Microsoft involucradas en inversiones en IA. En general, Buterin señaló que la Info Finance permite correcciones más rápidas, reemplazando modelos defectuosos y penalizando a los infractores. También agregó que los controles de jurado y las verificaciones aleatorias evitarán que las explotaciones se propaguen.
La publicación Buterin impulsa la Info Finance para detener explotaciones en la gobernanza de la IA apareció primero en Cryptotale.
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
¡Las tendencias de las tasas de interés en Europa y Estados Unidos podrían divergir! Castle Securities: el shock energético y las tasas de interés altas podrían aumentar la presión a la baja sobre la economía europea
Castle Securities considera que, aunque el impacto de los precios de la energía y el endurecimiento de la política monetaria por parte del Banco Central Europeo han impulsado el aumento sostenido de los rendimientos de los bonos europeos, estos dos factores también podrían terminar siendo elementos que limiten un mayor ascenso de dichos rendimientos.
Las acciones de Bank of America (BAC.US) cayeron hasta un 6% mientras el CEO envía señales de cautela: se espera que los ingresos por operaciones en el tercer trimestre se mantengan iguales comparado con el año anterior, y los ingresos por comisiones en banca de inversión podrían estar por debajo de lo esperado.
Brian Moynihan, director ejecutivo de Bank of America, afirmó que los ingresos por operaciones comerciales del banco en el tercer trimestre se espera que estén "básicamente en línea" con el mismo período del año pasado, lo que indica que, tras un fuerte crecimiento en la primera mitad del año, el impulso de crecimiento del sector de operaciones en Wall Street está desacelerándose.
Acciones estadounidenses durante la noche | Los tres principales índices cerraron a la baja. Los gigantes de la IA llaman colectivamente a desacelerar el ritmo de desarrollo. Las acciones de empresas relacionadas cayeron en toda la línea.
Al cierre, el índice Dow Jones cayó 152,01 puntos, una baja del 0,29%, ubicándose en 52.421,28 puntos; el índice S&P 500 descendió 37,03 puntos, una baja del 0,48%, quedando en 7.619,95 puntos; el índice compuesto Nasdaq bajó 146,62 puntos, una caída del 0,56%, cerrando en 26.186,41 puntos.
Después del cierre de un importante gasoducto, Arabia Saudita busca aumentar las exportaciones de petróleo crudo por el Estrecho de Ormuz.
La semana pasada, tras el ataque en Arabia Saudita, se cerró el oleoducto de este a oeste que anteriormente transportaba hasta 5 millones de barriles de petróleo por día. El Secretario de Energía de Estados Unidos dijo que espera que el oleoducto vuelva a operar pronto, pero funcionarios locales afirman que la recuperación podría tomar varias semanas. En agosto, las exportaciones de petróleo crudo de Arabia Saudita bajaron a 3 millones de barriles por día, el nivel más bajo en al menos nueve años, aunque repuntaron en septiembre. Irán declaró que, a pedido de Arabia Saudita, se pospuso la reunión sobre el transporte marítimo en el Estrecho de Ormuz, que estaba planeada para este lunes entre los países del Golfo. Trump dijo que Irán está ansioso y necesita con urgencia llegar a un acuerdo; él decidirá si EE. UU. participa y mantiene una postura abierta.
Precios de las criptos
Más
