What question did this study set out to answer?

Die Forschung zielt darauf ab, ein Rahmenwerk zu entwickeln, das Stabilität und Sicherheit selbstverbessernder KI-Agenten während ihrer Operationen gewährleistet.

March 13, 2026Open Access

WhyLab: Ein kausales Audit-Rahmenwerk für stabile Selbstverbesserung von Agenten

Key Points

Die Forschung zielt darauf ab, ein Rahmenwerk zu entwickeln, das Stabilität und Sicherheit selbstverbessernder KI-Agenten während ihrer Operationen gewährleistet.
Entwicklung eines kausalen Audit-Rahmenwerks mit drei Schutzmaßnahmen: informationstheoretische Drifterkennung, Dual-Schwellen-Filterung und adaptive Dämpfung.
Durchführung von Experimenten in synthetischen Umgebungen zur Bewertung der Wirksamkeit der vorgeschlagenen Schutzmaßnahmen.
Analyse der Erkennungszuverlässigkeit, der Raten fragiler Akzeptanzen und der Verletzungsfrequenzen.
C1 verbesserte die Erkennungszuverlässigkeit innerhalb des operationellen Horizonts signifikant.
C2 führte zu einer deutlichen Reduktion der Raten fragiler Akzeptanzen von KI-Ergebnissen.
C3 zeigte die niedrigste Frequenz von Policy-Verletzungen mit wirksamer Ausrichtung von Proxies und Zustand.

Abstract

Selbstverbessernde KI-Agenten fehlen Laufzeitsicherungen, die Drift bei Bewertungen, fragile Akzeptanz von Ergebnissen und unbeschränkte Parameteraktualisierungen verhindern, die sich zu katastrophalen Politikverschlechterungen aufsummieren können. WhyLab führt ein kausales Audit-Rahmenwerk mit drei komplementären Schutzmaßnahmen ein: C1: Informationstheoretische Drifterkennung über Evaluationsströme hinweg C2: E-Wert × Robustheits-Wert Dual-Schwellenfilter für fragile Ergebnisse C3: Lyapunov-begrenzte adaptive Dämpfung mit beobachtbarem Energieproxy Experimente in synthetischen Umgebungen zeigen, dass C1 die Zuverlässigkeit der Drifterkennung innerhalb des Horizonts verbessert, C2 die Rate fragile Akzeptanzen deutlich senkt und C3 die niedrigste Verletzungsfrequenz mit starker Proxy-Zustands-Ausrichtung erreicht. Code: https://github.com/neogenesislab/WhyLab-NeurIPS2026

Read Full Paperexternally

KI fragen

Bookmark

View Full Paper