Buterin sollecita Info Finance a fermare gli exploit nella governance dell'AI

• Vitalik avverte che una governance AI ingenua è vulnerabile a manipolazioni e sfruttamenti.
• Info finance crea diversità nei modelli e correzioni rapide, rendendo la governance AI più sicura.
• I mercati predittivi e i controlli a campione aiutano a garantire la sicurezza nelle decisioni e nei finanziamenti AI.

Il co-fondatore di Ethereum, Vitalik Buterin, ha avvertito che i modelli di governance AI ingenui comportano seri rischi e ha sottolineato che i framework che si affidano all’AI per il finanziamento o il processo decisionale rimangono vulnerabili a manipolazioni e sfruttamenti. Secondo lui, tali sistemi consentono ad attori malintenzionati di deviare risorse; tuttavia, sostiene un approccio chiamato “info finance”, progettato per costruire responsabilità e prevenire abusi attraverso mercati, supervisione umana e controlli.

Il Caso Contro la Governance AI Ingenua

Buterin ha sottolineato che la governance AI ingenua è rischiosa e ha aggiunto che se l’AI viene utilizzata per allocare fondi, le persone potrebbero manipolarla con prompt a loro scelta e ottenere denaro in eccesso. Ha inoltre spiegato che se i modelli funzionassero senza restrizioni o linee guida, potrebbero essere gestiti in modo improprio, incoraggiando così gli hacker a utilizzare prompt e ingannare l’AI per rilasciare risorse sbagliate. 

Tali vulnerabilità pongono l’AI in un potenziale circolo vizioso pericoloso. Inoltre, Buterin ha rivelato debolezze sistemiche che, se non controllate, potrebbero essere manipolate. Attacchi invisibili e prompt injection sono esempi di come gli aggressori possano facilmente approfittarne.

Info Finance come Alternativa

Buterin opta per l’information finance al posto della governance ingenua, descrivendola come un approccio di “institution design” che combina la competizione di mercato aperto con la verifica umana. Ha dichiarato,

Come alternativa, sostengo l’approccio info finance, dove esiste un mercato aperto in cui chiunque può contribuire con i propri modelli, che sono soggetti a un meccanismo di controllo a campione che può essere attivato da chiunque e valutato da una giuria umana.

Ha spiegato che Info Finance consente a contributori esterni di integrare large language models (LLM) senza dover codificare un unico sistema. Questo permetterà una diversità nei modelli, riducendo così la possibilità di fallimenti diffusi. Inoltre, crea incentivi per sviluppatori e speculatori a monitorare attentamente i difetti e agire rapidamente quando si verificano problemi.

Un meccanismo proposto prevede l’uso di prediction market o decision market. Più modelli competerebbero e i partecipanti potrebbero puntare sugli esiti, segnalando quali modelli sembrano più affidabili. Giurie o revisori umani effettuerebbero controlli a campione periodici, soprattutto nei casi ad alto rischio.

Correlato: Le tesorerie ETH salgono a 12B$ mentre Vitalik avverte dei rischi di leva finanziaria

Implicazioni per Crypto e Mercati

Info finance si basa su una responsabilità a più livelli, ed è rilevante nella competizione aperta, che permette di contestare o sostituire modelli difettosi. La supervisione umana viene aggiunta tramite giurie e audit. Gli incentivi economici impediscono la manipolazione, mentre la trasparenza rende visibili i comportamenti malevoli.

Collegando la governance AI alla blockchain e al trading, Buterin suggerisce che i difetti nelle AI centralizzate potrebbero aumentare l’interesse verso soluzioni decentralizzate, per lo più costruite su Ethereum. Inoltre, token come RNDR di Render Network e GRT di The Graph forniscono infrastrutture per i calcoli AI, traendo così vantaggio dallo sviluppo. Inoltre, i trader potrebbero anche utilizzare ETH e questi token per arbitraggio durante la volatilità del mercato. 

I dati on-chain indicano che ci sono più transazioni ETH associate a smart contract legati all’AI e che le problematiche di governance AI possono influenzare anche i titoli tecnologici, con aziende come NVIDIA e Microsoft coinvolte in investimenti AI. In generale, Buterin ha sottolineato che Info Finance consente correzioni più rapide, sostituendo così modelli difettosi e penalizzando i malintenzionati. Ha anche aggiunto che i controlli delle giurie e i controlli a campione impediranno la diffusione degli sfruttamenti.

L’articolo Buterin Pushes Info Finance to Stop Exploits in AI Governance è apparso per la prima volta su Cryptotale.