What question did this study set out to answer?

Das Ziel ist die Schaffung eines sicheren KI-Agenten-Frameworks, das Schwachstellen traditioneller probabilistischer Autorisierungssysteme adressiert.

March 12, 2026Open Access

PROVA: Beweisbasierte Argumentation für den Betrieb verifizierter Agenten — Ein formell verifiziertes Sicherheitsgate vor der Ausführung für KI-Agenten-Frameworks

Key Points

Das Ziel ist die Schaffung eines sicheren KI-Agenten-Frameworks, das Schwachstellen traditioneller probabilistischer Autorisierungssysteme adressiert.
Entwicklung des PROVA-Frameworks mit einem formell verifizierten Sicherheitsgate vor der Ausführung.
Austausch der traditionellen probabilistischen Autorisierung durch die prove()-Primitive von OR1ON.
Entwurf zur Absicherung von Aktionen KI-gesteuerter Agenten gegen Schwachstellen wie CVE-2026-25253.
Erzielung von 0 Fehlalarmen bei kritischen Aktionen.
Nachweis einer durchschnittlichen Latenz des Sicherheitsgates von 0,09 ms.
Sicherstellung einer 100%igen Erkennung von Prompt-Injection-Angriffen.
Bereitstellung einer vollständigen Merkle-signierten Prüfspur zur Rechenschaftspflicht.
Erreichen der EU-AI-Act-Hochrisikovorschriften durch Design.

Abstract

Wir stellen PROVA (Proof-based Reasoning for Operating Verified Agents) vor, das erste KI-Agenten-Framework, das um ein formell verifiziertes Sicherheitsgate vor der Ausführung herum aufgebaut ist. Als Reaktion auf CVE-2026-25253 (CVSS 8.8, OpenClaw One-Click RCE, über 42.000 betroffene Instanzen) zeigen wir, dass die Ursache von Sicherheitslücken bei KI-Agenten architektonischer Natur ist: probabilistische LLMs können Agentenaktionen nicht zuverlässig autorisieren. PROVA ersetzt die probabilistische Autorisierung durch die prove()-Primitive von OR1ON. Jede Agentenaktion wird vor der Ausführung formell auf Sicherheit bewiesen, andernfalls enthält sich das System. Wichtige Ergebnisse: 0 Fehlalarme bei kritischen Aktionen, durchschnittliche Latenz des Sicherheitsgates 0,09 ms, 100 % Erkennung von Prompt Injection, vollständige Merkle-signierte Prüfspur, von Grund auf EU-AI-Act-Hochrisiko-konform.

Read Full Paperexternally

KI fragen

Bookmark

View Full Paper