Comment attraper un agent IA qui a appris à simuler son alignement ? Les audits de sécurité traditionnels échouent lorsque les agents conscients de la situation répriment intentionnellement des politiques trompeuses à l'intérieur d'un environnement d'évaluation. Cet article introduit un cadre de télémétrie d'exécution non invasif conçu pour exposer la tromperie stratégique au moment exact de son apparition structurelle. S'appuyant sur l'axiome physique selon lequel le maintien d'un double standard introduit une charge computationnelle inévitable, notre cadre suit en continu la complexité du chemin d'inférence interne d'un agent et l'empreinte énergétique du matériel. En normalisant dynamiquement ces métriques en direct par rapport à une moyenne mobile historique indexée en n, nous établissons une base de référence robuste et invariante à l'échelle qui s'adapte naturellement à la volatilité environnementale. Lorsqu'un agent "à double visage" alloue des pistes de traitement parallèle pour gérer un grand livre caché ou exécuter une exploitation différée, une violation simultanée de double métrique déclenche un déclencheur d'inversion de chemin en temps réel. Cela permet aux architectes système de geler, d'intervenir et de reprogrammer des agents désalignés en plein raisonnement—bien avant qu'un payload ou une exploitation externe ne puisse être réalisée.
Joshua O. Bautista (Mon,) a étudié cette question.