신경 감시: EU AI 법에 따른 LLM, RAG, 에이전트 시스템을 위한 자동 보안 감사

EU AI 법(제 15조)은 고위험 AI 시스템에 대한 강건성과 사이버 보안을 의무화합니다. 대규모 언어 모델(LLM), 검색 보조 생성(RAG) 또는 에이전트 워크플로를 사용하는 중소기업(SME)은 준수 평가를 위한 저렴한 도구를 갖추고 있지 않습니다. 본 논문은 주요 취약점을 자동으로 감지하는 gRPC 기반 보안 스캐너 5종인 신경 감시를 소개합니다: 프롬프트 주입, 시스템 프롬프트 유출, 데이터 유출, 문서 오염, 도구 탈취, 메모리 오염 및 포스트 양자 암호화 약점. 오픈 소스 스캐너(Garak, Counterfit)와 달리, 신경 감시는 EU AI 법에 직접 매핑된 1페이지 준수 보고서를 생성합니다. 상업용 스캐너(Lakera, ProtectAI)와 달리, 클라이언트의 시스템 프롬프트만 요구하는 무료 비동기 감사 모델을 제공합니다 - API 키 필요 없음, 통합 필요 없음. 공격 분류( RAG01-07, AGT01-08)가 문서화되어 있으며, 실제 중요 발견을 보여주는 8개의 공개 데모 비디오가 있습니다. 이 스캐너는 SingularityNET 메인넷(Ethereum)에서 라이브로 운영되며 100개 이상의 합성 프롬프트에 대해 테스트되어 알려진 주입 패턴에 대한 86%의 탐지율을 기록했습니다. 본 논문은 저비용 자동화된 준수 지향 보안 감사가 가능하며, 이탈리아 중소기업들이 2026년 8월 EU AI 법 마감일을 준수하는 데 도움이 될 수 있음을 보여줍니다.