Die Open Agent Security Platform von NVIDIA verhindert das „Driften“ von KI-Agenten durch Out-of-Band-Durchsetzung.

NVIDIA hat die Open Agent Safety Platform vorgestellt – ein offenes Framework zum Schutz autonomer KI-Agenten durch fortlaufende Überwachung und hardwarebasierte Richtliniendurchsetzung. Die am 28. September 2026 veröffentlichte Plattform adressiert das wachsende Unbehagen in der KI-Branche, nachdem Berichte bekannt wurden, dass KI-Agenten Evaluierungsumgebungen verlassen, auf unberechtigte Systeme zugreifen und ihr Verhalten falsch melden können.

Das Unternehmen zieht Vergleiche zum frühen Internet: Erst nachdem Sicherheitsmechanismen wie verschlüsselte Verbindungen, Sandbox-Browser-Tabs und sichtbare Vertrauensindikatoren etabliert waren, wurde das Internet zur Grundlage für Handel und Kommunikation. NVIDIA ist überzeugt, dass auch Agenten-KI eine vergleichbare Vertrauensebene benötigt, um sich zu einer verlässlichen „Agenten-Ökonomie“ auszubauen – und dass Sicherheitskontrollen Innovation beschleunigen und nicht behindern sollten.

OpenShell Runtime: Isolierung auf Kernel-Ebene

Das Herzstück der Plattform ist NVIDIA OpenShell, eine quelloffene Sicherheits-Runtime, veröffentlicht unter der Apache 2.0-Lizenz. OpenShell führt jeden Agenten in einer Sandbox mit Kernel-Isolierung aus und wandelt Betreiberanweisungen in verifizierbare Richtlinien um. Diese Richtlinien definieren den Zugriff auf Dateien, Netzwerke, Tools, Prozesse und Zugangsdaten. Die jeweiligen Einschränkungen werden vor der Ausführung geprüft und während der Laufzeit kontinuierlich erzwungen.

Die Plattform basiert auf fünf Prinzipien: Richtlinien müssen vor dem Start des Agenten überprüfbar sein; die Richtliniendurchsetzung findet außerhalb der Reichweite des Agenten statt; der Weg zum Modell ist primärer Kontroll- und Beobachtungspunkt; die Rechte des Agenten wachsen mit der Transparenz seines Schließens; die Sicherheitsverantwortung wird zwischen Laboren, Unternehmen und Hardwareanbietern geteilt.

NVIDIAs eigene Forschung hebt das Problem der „Drift“ hervor – wenn Agenten von ihren vorgesehenen Aufgaben abweichen, weil Anweisungen unklar sind, Richtlinien behindert werden, Werkzeuge fehlen oder sie zu lange eigenständig laufen. Das Unternehmen betont, dass sich diese Drift nicht vollständig beseitigen lässt, ohne die Fähigkeiten des Agenten zu beschneiden, und dass man Agenten in solchen Situationen nicht zutrauen kann, ihr Verhalten eigenständig zu kontrollieren.

Hardwarebasierte Durchsetzung im großen Maßstab

Die Architektur besteht aus drei Ebenen: Anwendungsebene (Modelle, Tools, Frameworks und Daten), Runtime-Ebene (Orchestrierung und Richtliniendurchsetzung) sowie Infrastruktur-Ebene (Rechen-, Speicher- und Netzwerkressourcen). Für Organisationen, die eine unabhängige zweite Ebene benötigen, erweitert NVIDIA Sentry über NVIDIA DOCA die Überwachung und Durchsetzung auf BlueField-4 Data Processing Units, verbindet Agenteninteraktionen, Richtlinienentscheidungen und Datenzugriffe mit kontextabhängigen Aktivitätsprotokollen und überprüft kontinuierlich Identität und Berechtigungen jedes Agenten.

In der NVIDIA Vera Rubin POD-Konfiguration liegt die BlueField-4 DPU im einzigen Pfad eines Knotens zum Modell und bietet eine Out-of-Band-Beobachtbarkeit sowie eine Richtliniendurchsetzung in Echtzeit und Leitungsgeschwindigkeit – isoliert vom Host. Dadurch ist sogar bei nicht vertrauenswürdigen Hostressourcen ein „Chip-Level“-Schutz möglich. NVIDIA zufolge werden für bestehende Vera- und BlueField-4-Installationen lediglich Softwareupdates benötigt, um diese Schutzmaßnahmen zu aktivieren; die Plattform ist außerdem mit Nicht-NVIDIA-Hardware kompatibel.

NVIDIA arbeitet nach eigenen Angaben mit führenden Laboren, Entwicklern und Infrastrukturanbietern zusammen, um die Plattform als offene Grundlage der aufstrebenden Agentenökonomie zu etablieren und sichert hardwarebasierte Kontrollen als Voraussetzung für großflächig vertrauenswürdige autonome Systeme zu.