AI 지식 시스템에서의 인식 확인: 장기 기억을 위한 시스템-2 프레임워크

대규모 언어 모델(LLM)과 지속 메모리를 가진 시스템은 크게 해결되지 않은 문제인 지식 오염에 직면해 있습니다 — 인식적으로 유효하지 않은 쓰기 작업을 통해 저장된 지식이 점진적으로 저하되는 현상입니다. 모델 내부에서 발생하는 환상과는 달리, 지식 오염은 시스템 수준에서 올바르게 검색된 정보가 인식적으로 손상될 때 발생합니다. 우리는 프로덕션 LLM 지식 시스템에서 관찰된 다섯 가지 지식 오염 패턴의 분류체계를 제시하고, 쓰기 시간에 작동하는 6+1 개의 인식 확인 레이어로 구성된 검증 게이트 프레임워크를 제안합니다. 우리는 대략 5,000개의 항목을 포함하는 SQLite 기반 지식 시스템인 BrainDB에 여섯 개의 게이트를 구현했습니다. 4개의 공급자(Anthropic, OpenAI, Google, 그리고 로컬 3B-매개변수 모델)의 다섯 개 검증 모델을 사용한 41회의 독립 실행 평가에서 전반적인 탐지율이 92% (σ = 0%)로 나타났습니다 — 출처 혼란, 신뢰도 저하, 낡은 덮어쓰기, 그리고 시간적 일관성에 대해서는 100%였습니다 — 5개 모델 중 4개 모델의 8개의 깨끗한 제어 시나리오에서 0%의 잘못된 긍정이 기록되었습니다.