자가 조절 인공지능: 장기간 운영 AI 시스템을 위한 아키텍처 거버넌스

인공지능(AI)의 운영 환경은 고립된 정적 배치에서 동적이고 장기간 운영되는 생태계로 변화하고 있습니다. 디지털 트윈 및 적응형 의료 모니터와 같은 자율 시스템이 장시간에 걸쳐 작동함에 따라 전통적인 "학습-검증-배포" 수명 주기는 점점 부적절해지고 있습니다. 이러한 "장기간 운영 AI 시스템"(LLAIS)은 개념 이동, 치명적 망각, 안전 정렬의 점진적 붕괴 등 심각한 안정성 위험에 직면합니다. 게다가 전통적인 거버넌스 프레임워크는 주기적인 외부 감사를 주로 의존하여 자율 에이전트의 실시간 실패를 차단하기 위한 시간적 해상도가 부족합니다. 이를 해결하기 위해 우리는 내부 감독을 내재화하도록 설계된 새로운 프레임워크인 자가 조절 거버넌스 아키텍처(SRGA)를 제안합니다. SRGA는 확률적 학습 모듈과 함께 결정론적 "거버넌스 컨트롤러"를 내장하여 신호 시간 논리(STL) 제약과 합동 불확실성 정량화를 활용합니다. 이 아키텍처는 시스템이 분포 변화를 자율적으로 감지하고 즉각적인 개입, 특히 결정 동결과 버전 롤백을 실행할 수 있도록 합니다. CIFAR-10-C 벤치마크에서 엄격한 시뮬레이션을 통해 프레임워크를 평가한 결과, SRGA는 표준 지속 학습 기법 대비 안전 실패율을 12.0%에서 99.5%로 크게 향상시키면서 예측 효용을 유지함을 보여주었습니다. 우리는 내부 자가 조절이 고위험 환경에서 자율 시스템의 윤리적 배포를 위한 필수 조건이라고 주장합니다.