소프트웨어 기반 AI 안전 메커니즘은 심각한 약점을 공유합니다: 손상된 소프트웨어에 의해 우회될 수 있습니다. 이 문서는 소프트웨어 제어 밖에서 완전히 작동하는 AI 에이전트 안전 강화를 위한 하드웨어 기반 접근 방식을 제시합니다. 이 시스템은 다섯 가지 통합 하드웨어 서브시스템으로 구성됩니다: 단일 클록 사이클 내에서 에이전트 행동을 검증하는 행동 경계 검사기; 전용 카운터를 사용하여 엄격한 제한을 시행하는 자원 소비 모니터; 하드웨어 DFA 패턴 매칭을 사용하는 통신 필터; 서브 마이크로초 종료를 보장하는 하드웨어 킬 스위치; 주기적인 생존 증명을 요구하는 암호화된 죽은 자의 스위치. 주요 사양: 200 MHz에서 5 나노초 이내의 행동 검증; 16,384 개의 동시 에이전트 지원; 10,000 개의 동시 금지된 패턴; 1 마이크로초 이내의 킬 실행; 타임아웃 간격 100ms에서 60초. 하드웨어 구현은 AI 에이전트나 호스트 시스템에서 실행되는 소프트웨어에 의해 안전 강제가 비활성화되거나 지연되거나 우회될 수 없음을 보장합니다. 이는 AI 안전이 AI 제어 밖의 메커니즘에 의해 강제되어야 한다는 기본 요구 사항을 해결합니다.
Matias Chenu Melchior (Sun,)이 이 문제를 연구했습니다.