Buterin incentiva Info Finance a impedir explorações na governança de IA
- Vitalik alerta que uma governança ingênua de IA é vulnerável à manipulação e explorações.
- Info finance cria diversidade de modelos e correções rápidas, tornando a governança de IA mais segura.
- Mercados de previsão e verificações pontuais ajudam a garantir a tomada de decisões e o financiamento por IA.
O cofundador da Ethereum, Vitalik Buterin, alertou que modelos ingênuos de governança de IA apresentam riscos sérios e advertiu que estruturas que dependem de IA para financiamento ou tomada de decisões permanecem vulneráveis à manipulação e explorações. Em sua visão, tais sistemas permitem que agentes mal-intencionados desviem recursos; no entanto, ele defende uma abordagem chamada “info finance”, projetada para construir responsabilidade e prevenir o uso indevido por meio de mercados, supervisão humana e mecanismos de verificação.
O Caso Contra a Governança Ingênua de IA
Buterin enfatizou que a governança ingênua de IA é arriscada e acrescentou que, se a IA for usada para alocar fundos, as pessoas poderiam manipulá-la com prompts de sua escolha e obter dinheiro em excesso. Ele detalhou ainda que, se os modelos funcionassem sem quaisquer restrições ou diretrizes, poderiam ser mal utilizados, incentivando hackers a usar prompts e enganar a IA para liberar recursos incorretos.
Tais vulnerabilidades colocam a IA em um ciclo potencialmente perigoso. Além disso, Buterin revelou fraquezas sistêmicas que, se não forem controladas, podem ser manipuladas. Ataques invisíveis e injeções de prompts são exemplos de como os atacantes podem facilmente se aproveitar.
Info Finance como Alternativa
Buterin opta pelo info finance em vez da governança ingênua, descrevendo-o como uma abordagem de “design institucional”, que mistura competição de mercado aberto com verificação humana. Ele disse:
Como alternativa, apoio a abordagem de info finance, onde você tem um mercado aberto onde qualquer pessoa pode contribuir com seus modelos, que estão sujeitos a um mecanismo de verificação pontual que pode ser acionado por qualquer um e avaliado por um júri humano.
Ele explicou que o Info Finance permite que colaboradores externos integrem modelos de linguagem de grande porte (LLMs) sem codificar um único sistema. Isso permitirá diversidade de modelos, reduzindo assim a chance de falhas generalizadas. Também cria incentivos para que desenvolvedores e especuladores fiquem atentos a falhas e ajam rapidamente quando surgirem problemas.
Um mecanismo proposto envolve mercados de previsão ou mercados de decisão. Vários modelos competiriam, e os participantes poderiam apostar nos resultados, sinalizando quais modelos parecem mais confiáveis. Júris humanos ou auditores fariam verificações pontuais periódicas dos resultados, especialmente em casos de alto risco.
Relacionado: Tesourarias de ETH disparam para US$ 12B enquanto Vitalik alerta sobre riscos de alavancagem
Implicações para Cripto e Mercados
O info finance depende de responsabilidade em camadas, sendo notável na competição aberta, que permite que modelos defeituosos sejam desafiados ou substituídos. A supervisão humana é adicionada por meio de júris e auditorias. Incentivos econômicos impedem manipulação, enquanto a transparência torna o comportamento malicioso visível.
Ao vincular a governança de IA ao blockchain e à negociação, Buterin sugere que falhas em IA centralizada podem aumentar o interesse por soluções descentralizadas, principalmente construídas na Ethereum. Além disso, tokens como o RNDR da Render Network e o GRT da The Graph fornecem infraestrutura para computações de IA, beneficiando-se assim do desenvolvimento. Além disso, traders também podem usar ETH e esses tokens para arbitragem em meio à volatilidade do mercado.
Dados on-chain indicam que há mais transações de ETH associadas a contratos inteligentes relacionados à IA e que questões de governança de IA podem impactar também ações de tecnologia, com empresas como NVIDIA e Microsoft envolvidas em investimentos em IA. No geral, Buterin destacou que o Info Finance permite correções mais rápidas, substituindo modelos defeituosos e penalizando infratores. Ele também acrescentou que verificações por júri e verificações pontuais impedirão que a exploração se espalhe.
O post Buterin Pushes Info Finance to Stop Exploits in AI Governance apareceu primeiro em Cryptotale.
Aviso Legal: o conteúdo deste artigo reflete exclusivamente a opinião do autor e não representa a plataforma. Este artigo não deve servir como referência para a tomada de decisões de investimento.
Talvez também goste
Os fundos de hedge acabaram de reconstruir posições compradas em tecnologia, mas o suporte chave do Nasdaq já começou a enfraquecer
O índice Nasdaq 100 está se aproximando da faixa inferior da zona de consolidação de vários meses; os futuros romperam a linha de tendência de alta e a média móvel de 100 dias, indicando fraqueza técnica. Hedge funds haviam comprado massivamente ações de tecnologia, com posições concentradas aumentando o risco de queda. Controvérsias sobre a segurança da IA e riscos de fornecimento de energia atuam como catalisadores duplos. Se o suporte chave for perdido e o mercado permanecer com baixa percepção de risco, a volatilidade pode ser reavaliada.
O rendimento dos títulos do Tesouro dos EUA de 10 anos ultrapassa 5%! "Profeta" alerta: a liquidação ainda não acabou
Steven Barrow, chefe de estratégia G10 do Standard Bank, que foi o primeiro a prever 5% em fevereiro deste ano, elevou sua previsão para o rendimento dos títulos do Tesouro dos EUA de 10 anos para 5,2% até o final do ano e espera que suba ainda mais para 5,3% no primeiro trimestre de 2027. Ele afirmou que as pressões nas cadeias de suprimentos, as mudanças climáticas e as restrições da política de imigração dos EUA na oferta de mão de obra estão se tornando mais fortes do que nunca. Ao mesmo tempo, o índice do dólar registrou um ganho diário máximo de 0,6%, podendo alcançar seu melhor desempenho diário desde 17 de junho.
Avançando contra a tempestade de "desaceleração da IA"? Rumores indicam que a Kioxia planeja levantar pelo menos 10 bilhões de dólares em uma oferta pública inicial nos EUA
Kioxia está supostamente considerando levantar US$ 10 bilhões por meio de uma oferta pública nos Estados Unidos.
A construção de poder computacional AI está mudando de "falta de energia" para "falta de pessoas": modularização em ascensão, Schneider, Vertiv e Eaton recebem novas oportunidades
Recentemente, a Bernstein publicou um relatório de pesquisa apontando que, diante da rápida expansão da capacidade computacional da IA, o principal fator limitante para o desenvolvimento dos centros de dados está passando por uma mudança.
Preços de criptomoedas
Mais
