Buterin naciska na Info Finance, aby powstrzymać nadużycia w zarządzaniu AI
- Vitalik ostrzega, że naiwne zarządzanie AI jest podatne na manipulacje i nadużycia.
- Info finance tworzy różnorodność modeli i szybkie korekty, czyniąc zarządzanie AI bezpieczniejszym.
- Rynki predykcyjne i kontrole wyrywkowe pomagają zabezpieczyć podejmowanie decyzji i finansowanie AI.
Współzałożyciel Ethereum, Vitalik Buterin, ostrzegł, że naiwne modele zarządzania AI niosą poważne ryzyko i zaznaczył, że ramy polegające na AI w zakresie finansowania lub podejmowania decyzji pozostają podatne na manipulacje i nadużycia. Jego zdaniem takie systemy pozwalają złośliwym podmiotom przekierowywać zasoby, jednak opowiada się on za podejściem zwanym „info finance”, zaprojektowanym w celu budowania odpowiedzialności i zapobiegania nadużyciom poprzez rynki, nadzór ludzki i kontrole.
Argumenty przeciwko naiwnemu zarządzaniu AI
Buterin podkreślił, że naiwne zarządzanie AI jest ryzykowne i dodał, że jeśli AI będzie używane do alokacji środków, ludzie mogą je manipulować za pomocą wybranych przez siebie promptów i uzyskiwać nadmiarowe środki. Rozwinął, że jeśli modele działałyby bez żadnych ograniczeń lub wytycznych, mogłyby być niewłaściwie wykorzystywane, zachęcając hakerów do używania promptów i oszukiwania AI, by wydawała niewłaściwe zasoby.
Takie luki czynią AI potencjalnie niebezpieczną. Ponadto Buterin ujawnił systemowe słabości, które, jeśli pozostaną bez kontroli, mogą być manipulowane. Niewidoczne ataki, wstrzykiwanie promptów to przykłady, jak atakujący mogą łatwo wykorzystać system.
Info Finance jako alternatywa
Buterin wybiera information finance zamiast naiwnego zarządzania, opisując to jako podejście „projektowania instytucji”, łączące otwartą konkurencję rynkową z weryfikacją ludzką. Powiedział:
Jako alternatywę popieram podejście info finance, gdzie masz otwarty rynek, na którym każdy może zgłaszać swoje modele, które podlegają mechanizmowi kontroli wyrywkowej, uruchamianemu przez każdego i ocenianemu przez ludzkie jury.
Wyjaśnił, że Info Finance pozwala zewnętrznym współtwórcom integrować duże modele językowe (LLM) bez twardego kodowania jednego systemu. To umożliwia różnorodność modeli, zmniejszając ryzyko szeroko zakrojonych awarii. Tworzy to także bodźce dla deweloperów i spekulantów do uważnego obserwowania błędów i szybkiego reagowania na problemy.
Jednym z proponowanych mechanizmów są rynki predykcyjne lub rynki decyzyjne. Wiele modeli konkurowałoby ze sobą, a uczestnicy mogliby stawiać na wyniki, sygnalizując, które modele wydają się najbardziej wiarygodne. Ludzkie jury lub audytorzy okresowo sprawdzaliby wyniki, szczególnie w przypadkach o wysokiej stawce.
Powiązane: ETH Treasuries Surge to $12B as Vitalik Warns of Leverage Risks
Implikacje dla kryptowalut i rynków
Info finance opiera się na wielopoziomowej odpowiedzialności i jest szczególnie widoczne w otwartej konkurencji, która pozwala kwestionować lub zastępować wadliwe modele. Nadzór ludzki jest dodawany poprzez jury i audyty. Bodźce ekonomiczne uniemożliwiają manipulacje, a przejrzystość sprawia, że złośliwe działania są widoczne.
Łącząc zarządzanie AI z blockchainem i handlem, Buterin sugeruje, że wady scentralizowanego AI mogą zwiększyć zainteresowanie zdecentralizowanymi rozwiązaniami, głównie opartymi na Ethereum. Ponadto tokeny takie jak RNDR Render Network i GRT The Graph zapewniają infrastrukturę dla obliczeń AI, czerpiąc korzyści z rozwoju. Dodatkowo, traderzy mogą również wykorzystywać ETH i te tokeny do arbitrażu w warunkach zmienności rynku.
Dane on-chain wskazują, że coraz więcej transakcji ETH jest powiązanych z inteligentnymi kontraktami związanymi z AI, a kwestie zarządzania AI mogą wpływać także na akcje technologiczne, przy czym firmy takie jak NVIDIA i Microsoft są zaangażowane w inwestycje AI. Ogólnie rzecz biorąc, Buterin zauważył, że Info Finance pozwala na szybsze korekty, zastępując wadliwe modele i karząc sprawców nadużyć. Dodał również, że kontrole jury i wyrywkowe zapobiegną rozprzestrzenianiu się nadużyć.
The post Buterin Pushes Info Finance to Stop Exploits in AI Governance appeared first on Cryptotale.
Zastrzeżenie: Treść tego artykułu odzwierciedla wyłącznie opinię autora i nie reprezentuje platformy w żadnym charakterze. Niniejszy artykuł nie ma służyć jako punkt odniesienia przy podejmowaniu decyzji inwestycyjnych.
Może Ci się również spodobać
Morgan Stanley analizuje „bilans jako usługę” firmy Nvidia (NVDA.US): akcje z potencjałem wzrostu do 300 dolarów, ostrożność po stronie kredytowej
Nvidia coraz częściej wykorzystuje swoją silną bilansową pozycję do wspierania finansowania infrastruktury AI. Wraz ze wzrostem potencjalnej ekspozycji, rynki kredytowe muszą zwracać na to większą uwagę.
Filozofia produktowa nowego szefa Apple: estetyka technologiczna ważniejsza niż marketing koncepcyjny, nie dąży do bycia pierwszym, lecz do „definiowania ostatecznego rezultatu”
Nowy CEO Apple, Ternas, w swoim pierwszym wywiadzie po objęciu stanowiska jasno określił strategiczne podejście firmy w erze AI: odrzuca rynkowy chwyt „AI wearables zastąpią smartfony” i utrzymuje iPhone jako absolutnie kluczowe „doskonałe centrum osobistej inteligencji”. Ten inżynier z 25-letnim doświadczeniem zilustrował filozofię produktów Apple „nie liczy się pierwszeństwo, liczy się ostateczny rezultat” premierą pierwszego składanego telefonu – iPhone Duo.
Rentowność amerykańskich obligacji 5%, cena ropy 120 dolarów, indeks VIX na poziomie 25? Koszmarny scenariusz dla rynku staje się rzeczywistością
Rentowność amerykańskich obligacji 10-letnich gwałtownie przekroczyła poziom 4,8% i zbliża się do "linii życia i śmierci" na poziomie 5% – jeśli się tam utrzyma, oficjalnie opuści wieloletnią strefę wahań, gdzie powyżej prawie nie ma żadnych zabezpieczeń. Wzrost cen ropy oraz wzrost cen produktów rolnych wspólnie napędzają oczekiwania inflacyjne, a nagły wzrost VIX sprawia, że instytucje masowo kupują ochronę przed ryzykiem ekstremalnym ("tail risk"). Narracja AI wspiera odporność akcji technologicznych, jednak 35% pozycji krótkich na Nasdaq może w każdej chwili doprowadzić do gwałtownego short squeeze.
Rentowność amerykańskich obligacji zbliża się do psychologicznej granicy 5%! Globalna wyprzedaż na rynku obligacji narasta, a rynki finansowe czekają na dzisiejszy wieczorny „ostateczny werdykt” w postaci danych CPI
Globalna fala wyprzedaży obligacji spowodowała, że rentowność 10-letnich amerykańskich obligacji skarbowych zbliża się do kluczowego poziomu 5%.
Ceny krypto
Więcej
