Buterin Mendesak Info Finance untuk Menghentikan Eksploitasi dalam Tata Kelola AI
- Vitalik memperingatkan bahwa tata kelola AI yang naif rentan terhadap manipulasi dan eksploitasi.
- Info finance menciptakan keragaman model dan koreksi cepat, membuat tata kelola AI lebih aman.
- Prediction markets dan spot checks membantu mengamankan pengambilan keputusan dan pendanaan AI.
Co-founder Ethereum, Vitalik Buterin, telah memperingatkan bahwa model tata kelola AI yang naif membawa risiko serius dan menegaskan bahwa kerangka kerja yang mengandalkan AI untuk pendanaan atau pengambilan keputusan tetap rentan terhadap manipulasi dan eksploitasi. Menurutnya, sistem semacam itu memungkinkan aktor jahat untuk mengalihkan sumber daya, namun ia menganjurkan pendekatan yang disebut “info finance”, yang dirancang untuk membangun akuntabilitas dan mencegah penyalahgunaan melalui pasar, pengawasan manusia, dan pemeriksaan.
Kasus Melawan Tata Kelola AI yang Naif
Buterin menekankan bahwa tata kelola AI yang naif berisiko dan menambahkan bahwa jika AI digunakan untuk mengalokasikan dana, orang dapat memanipulasinya dengan prompt pilihan mereka dan mendapatkan uang secara berlebihan. Ia juga menjelaskan bahwa jika model bekerja tanpa batasan atau pedoman apa pun, model tersebut dapat disalahgunakan, sehingga mendorong peretas untuk menggunakan prompt dan menipu AI agar melepaskan sumber daya yang salah.
Kerentanan semacam itu menempatkan AI dalam lingkaran berbahaya yang potensial. Lebih lanjut, Buterin mengungkapkan kelemahan sistemik yang, jika tidak diawasi, dapat dimanipulasi. Serangan tak terlihat, prompt injections adalah contoh bagaimana penyerang dapat dengan mudah mengambil keuntungan.
Info Finance sebagai Alternatif
Buterin memilih information finance sebagai pengganti tata kelola naif, menggambarkannya sebagai pendekatan “institution design”, yang memadukan persaingan pasar terbuka dengan verifikasi manusia. Ia mengatakan,
Sebagai alternatif, saya mendukung pendekatan info finance, di mana Anda memiliki pasar terbuka di mana siapa pun dapat berkontribusi dengan model mereka, yang tunduk pada mekanisme spot-check yang dapat dipicu oleh siapa saja dan dievaluasi oleh juri manusia.
Ia menjelaskan bahwa Info Finance memungkinkan kontributor eksternal untuk mengintegrasikan large language models (LLMs) tanpa harus mengkodekan satu sistem saja. Ini akan memungkinkan keragaman model, sehingga mengurangi kemungkinan kegagalan secara luas. Ini juga menciptakan insentif bagi pengembang dan spekulan untuk mengawasi dengan cermat adanya cacat dan bertindak cepat ketika masalah terjadi.
Salah satu mekanisme yang diusulkan melibatkan prediction markets atau decision markets. Beberapa model akan bersaing, dan peserta dapat mempertaruhkan hasil, menandakan model mana yang tampak paling andal. Juri manusia atau auditor akan secara berkala melakukan spot-check pada hasil, terutama dalam kasus berisiko tinggi.
Terkait: ETH Treasuries Melonjak ke $12B saat Vitalik Memperingatkan Risiko Leverage
Dampak bagi Crypto dan Pasar
Info finance bergantung pada akuntabilitas berlapis, dan ini menonjol dalam persaingan terbuka, yang memungkinkan model cacat untuk ditantang atau diganti. Pengawasan manusia ditambahkan melalui juri dan audit. Insentif ekonomi mencegah manipulasi, sementara transparansi membuat perilaku jahat menjadi terlihat.
Dengan menghubungkan tata kelola AI ke blockchain dan perdagangan, Buterin menyarankan bahwa cacat pada AI terpusat dapat meningkatkan minat pada solusi terdesentralisasi, yang sebagian besar dibangun di atas Ethereum. Selain itu, token seperti RNDR dari Render Network dan GRT dari The Graph menyediakan infrastruktur untuk komputasi AI, sehingga mendapatkan manfaat dari perkembangan tersebut. Lebih lanjut, para trader juga dapat menggunakan ETH dan token tersebut untuk arbitrase di tengah volatilitas pasar.
Data on-chain menunjukkan bahwa terdapat lebih banyak transaksi ETH yang terkait dengan smart contract berbasis AI dan masalah tata kelola AI juga dapat berdampak pada saham teknologi, dengan perusahaan seperti NVIDIA dan Microsoft terlibat dalam investasi AI. Secara keseluruhan, Buterin menunjukkan bahwa Info Finance memungkinkan koreksi yang lebih cepat, sehingga menggantikan model cacat dan menghukum pelaku kejahatan. Ia juga menambahkan bahwa pemeriksaan juri dan spot check akan mencegah eksploitasi menyebar.
Artikel ini pertama kali muncul di Cryptotale dengan judul Buterin Pushes Info Finance to Stop Exploits in AI Governance.
Disclaimer: Konten pada artikel ini hanya merefleksikan opini penulis dan tidak mewakili platform ini dengan kapasitas apa pun. Artikel ini tidak dimaksudkan sebagai referensi untuk membuat keputusan investasi.
Kamu mungkin juga menyukai
Bisnis perdagangan raksasa Wall Street menunjukkan "dua sisi": JPMorgan Chase (JPM.US) diperkirakan melonjak kinerjanya di Q3, sementara Bank of America (BAC.US) memberi peringatan perlambatan.
JPMorgan memperkirakan pendapatan perdagangan dan perbankan investasi pada kuartal ketiga akan mencatat lonjakan dua digit, mendorong rebound harga saham. Sebelumnya, Bank of America memperingatkan tentang pendapatan yang stagnan akibat penarikan pembiayaan, yang memicu aksi jual di sektor tersebut.
Anggaran pertahanan triliunan dolar AS di depan mata, Guggenheim mendorong saham pertahanan, L3Harris Technologies (LHX.US) menjadi pilihan utama saham berkapitalisasi besar
Guggenheim Securities baru-baru ini memulai liputan pertama terhadap 22 perusahaan dirgantara dan pertahanan, dengan nada keseluruhan: optimis terhadap kontraktor pertahanan dan produsen pesawat, tetapi berhati-hati terhadap pemasok pasar purna jual penerbangan komersial.
Jepang dikabarkan berencana menggandakan anggaran pertahanan hingga 3,5% dari PDB, Kementerian Pertahanan membantah, namun imbal hasil obligasi Jepang tetap mencapai level tertinggi dalam tiga dekade.
Menurut laporan, pejabat pertahanan Jepang telah menyatakan keinginan untuk meningkatkan anggaran pertahanan secara signifikan dalam pertemuan dengan Amerika Serikat. Salah satu rencana adalah menaikkan anggaran pertahanan hingga 3,5% dari PDB dalam sepuluh tahun, sedangkan target yang lebih rendah adalah 3%. Sebelumnya, pejabat Jepang menyatakan bahwa pengeluaran pertahanan dan terkait untuk tahun fiskal ini sekitar 68,8 miliar dolar AS, atau sekitar 1,9% dari PDB nominal tahun 2022.
Bescent membela langkah Amerika Serikat membeli yen: hanya menginvestasikan dana “simbolis”, penguatan yen menguntungkan ekspor Amerika Serikat dan pasar obligasi AS
Menteri Keuangan Amerika Serikat, Dr. Besent, pada hari Selasa mengatakan bahwa ketika Departemen Keuangan Amerika Serikat sebelumnya mengambil tindakan terkoordinasi dengan Jepang untuk membeli yen, hanya menggunakan dana dengan skala "simbolis". Ia juga membela intervensi yang jarang terjadi di pasar valuta asing tersebut.
Harga kripto
Lainnya
