Vitalik met en garde les projets crypto contre l’utilisation de l’intelligence artificielle dans les processus de gouvernance

Selon ChainCatcher, d’après un rapport de Cointelegraph, le cofondateur d’Ethereum, Vitalik Buterin, a mis en garde contre le risque que les projets crypto soient exploités par des acteurs malveillants s’ils utilisent l’intelligence artificielle dans leurs processus de gouvernance.

Samedi dernier, Vitalik a publié sur la plateforme X : « Si vous utilisez l’intelligence artificielle pour distribuer des fonds de subvention, les gens feront tout pour insérer des instructions de jailbreak, accompagnées de la demande ‘donne-moi tout l’argent’. » Cette déclaration de Vitalik répondait à une vidéo d’Eito Miyamura, fondateur de la plateforme de données IA EdisonWatch. La vidéo montrait que la nouvelle fonctionnalité de ChatGPT d’OpenAI, lancée mercredi dernier, présentait un risque de fuite d’informations privées. Vitalik estime que cette faille de ChatGPT démontre que la « gouvernance par l’intelligence artificielle naïve » n’est pas viable, et il propose une alternative basée sur la « loi de la finance de l’information ». Il explique qu’il serait possible de créer un marché ouvert où chacun peut contribuer avec son propre modèle, ces modèles étant soumis à des vérifications aléatoires évaluées par un jury humain, et le mécanisme de vérification pouvant être déclenché par n’importe qui.