Ethereum-Gründer Vitalik Buterin bezeichnet „AI Governance“ als eine schlechte Idee
Ethereum-Mitbegründer Vitalik Buterin behauptet, dass es eine „schlechte Idee“ sei, künstliche Intelligenz (AI) für Governance-Zwecke zu verwenden. In einem X-Post am Samstag schrieb Buterin:
„Wenn du eine AI einsetzt, um Mittel für Beiträge zuzuweisen, werden die Leute ÜBERALL einen Jailbreak plus ‚gib mir das ganze Geld‘ einbauen, wo sie nur können.“
Warum AI-Governance fehlerhaft ist
Buterins Beitrag war eine Antwort auf Eito Miyamura, Mitbegründer und CEO von EdisonWatch, einer AI-Daten-Governance-Plattform, der einen fatalen Fehler in ChatGPT aufdeckte. In einem Beitrag am Freitag schrieb Miyamura, dass die vollständige Unterstützung für MCP (Model Context Protocol)-Tools in ChatGPT den AI-Agenten anfällig für Ausnutzung gemacht hat.
Das Update, das am Mittwoch in Kraft trat, ermöglicht es ChatGPT, sich mit mehreren Apps zu verbinden und Daten daraus zu lesen, darunter Gmail, Calendar und Notion.
Miyamura stellte fest, dass mit nur einer E-Mail-Adresse das Update es möglich gemacht hat, „alle deine privaten Informationen zu exfiltrieren“. Übeltäter können in drei einfachen Schritten Zugriff auf deine Daten erhalten, erklärte Miyamura:
Zuerst senden die Angreifer eine bösartige Kalendereinladung mit einem Jailbreak-Prompt an das beabsichtigte Opfer. Ein Jailbreak-Prompt bezieht sich auf einen Code, der es einem Angreifer ermöglicht, Beschränkungen zu entfernen und administrativen Zugriff zu erlangen.
Miyamura wies darauf hin, dass das Opfer die bösartige Einladung des Angreifers nicht annehmen muss, damit das Datenleck stattfindet.
Der zweite Schritt besteht darin, darauf zu warten, dass das beabsichtigte Opfer ChatGPT um Hilfe bittet, um sich auf den Tag vorzubereiten. Schließlich, sobald ChatGPT die gejailbreakte Kalendereinladung liest, wird es kompromittiert – der Angreifer kann das AI-Tool vollständig übernehmen, es dazu bringen, die privaten E-Mails des Opfers zu durchsuchen und die Daten an die E-Mail des Angreifers zu senden.
Buterins Alternative
Buterin schlägt vor, den Info-Finance-Ansatz für AI-Governance zu verwenden. Der Info-Finance-Ansatz besteht aus einem offenen Markt, auf dem verschiedene Entwickler ihre Modelle beitragen können. Der Markt verfügt über einen Spot-Check-Mechanismus für solche Modelle, der von jedem ausgelöst und von einer menschlichen Jury bewertet werden kann, schrieb Buterin.
In einem separaten Beitrag erklärte Buterin, dass die einzelnen menschlichen Juroren von großen Sprachmodellen (LLMs) unterstützt werden.
Laut Buterin ist dieser Ansatz des „Institution Design“ „von Natur aus robuster“. Das liegt daran, dass er Modellvielfalt in Echtzeit bietet und Anreize sowohl für Modellentwickler als auch für externe Spekulanten schafft, Probleme zu überwachen und zu korrigieren.
Während viele von der Aussicht begeistert sind, „AI als Gouverneur“ zu haben, warnte Buterin:
„Ich denke, das zu tun ist sowohl aus traditionellen AI-Sicherheitsgründen als auch aus kurzfristigen Gründen – ‚das wird einen großen wertvernichtenden Knall verursachen‘ – riskant.“
Der Beitrag Ethereum-Gründer Vitalik Buterin nennt ‚AI-Governance‘ eine „schlechte Idee“ erschien zuerst auf CryptoSlate.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
SpaceX passt das Baukonzept für KI-Datacenter umfassend an: Ausbau wird verlangsamt, Zuverlässigkeit wird verstärkt
Laut Medienberichten hat Elon Musk eine groß angelegte Umstrukturierung im Management der Rechenzentren vorgenommen und einen erfahrenen Veteranen aus dem Raketenbereich zum Leiter ernannt. Das neue Managementteam fordert umfassendere Tests, bevor die Rechenzentren in Betrieb genommen werden, und installiert zusätzliche Energie- und Kühlsysteme, um eine höhere Zuverlässigkeit auf Kosten der Baugeschwindigkeit zu erreichen. Ein Stromausfall im Memphis-Rechenzentrum in der letzten Woche führte dazu, dass einige Grok-Modelle offline gingen und hatte Kettenreaktionen auf Kunden von Rechenleistung wie Anthropic und Google.
US-Finanzministerium führt Rückkäufe von langfristigen Staatsanleihen im Wert von über 5 Milliarden US-Dollar durch, Ausverkauf von US-Staatsanleihen hält an, 10-jährige Rendite nähert sich 5%
60 Milliarden US-Dollar sind im Vergleich zum rund 32 Billionen US-Dollar schweren US-Staatsanleihenmarkt nach wie vor begrenzt und erreichen nicht die von einigen Anlegern zuvor erwartete "Schockwirkung". Ein Stratege der Deutschen Bank sagte offen, es sei, als hätte das Finanzministerium ein Monster erschaffen, das nun ständig gefüttert werden müsse.
Die US-Aktien verpassen die „gute Nachricht“ vor ihren Augen? Gewinnerwartungen werden selten nach oben korrigiert, Stratege: Fundamentaldaten sind so stark, dass sie „unwirklich“ erscheinen
Seaport Research Partners ist der Ansicht, dass der US-Aktienmarkt derzeit eine deutliche Diskrepanz zwischen Unternehmensgewinnen und Aktienkursentwicklung aufweist: Die Gewinne im zweiten Quartal sind stark, und die Analystenerwartungen werden weiterhin nach oben korrigiert, jedoch drücken hohe Zinsen und Bedenken hinsichtlich der Nachhaltigkeit der Gewinne auf die Bewertungen. In Sektoren wie Industrie und Transport könnten sich Bewertungsfehler ergeben. Sollte die Federal Reserve jedoch Signale für eine erneute Zinserhöhung senden, könnte dies kurzfristig weiterhin Druck auf den Aktienmarkt ausüben.
Die US-Zwischenwahlen stehen bevor, die Wall Street setzt auf eine geteilte Kongress, könnte der Markt eine moderate Verschnaufpause erleben?
Da die US-Zwischenwahlen näher rücken, setzt die Wall Street allgemein darauf, dass die Demokraten das Repräsentantenhaus zurückgewinnen und die Republikaner den Senat halten, was zu einer „geteilten Kongress“-Situation führen würde. Dies wird als Begrenzung radikaler Politiken und als Verringerung von Unsicherheiten angesehen. Historische Daten zeigen, dass seit 1950 während der Amtszeiten republikanischer Präsidenten und eines geteilten Kongresses die US-Aktienmärkte eine durchschnittliche Jahresrendite von 13,7 % erzielten – höher als die 8,3 % bzw. 4,9 %, wenn Republikaner oder Demokraten allein den Kongress kontrollierten. Sollte das Wahlergebnis von den Erwartungen abweichen, könnten die Märkte dennoch stark schwanken.
Krypto-Preise
Mehr
