연합의 변동이 진정한 정렬 문제인 이유: 정렬 문제는 에이전트 내부에 있는 것이 아니라 연합 내부에 있습니다.

대부분의 정렬 담론은 여전히 개별 에이전트에 초점을 맞추고 있습니다: 모델을 어떻게 정렬할 것인가, 환각을 어떻게 방지할 것인가, 올바른 행동을 어떻게 강제할 것인가? 이러한 framing은 더 이상 유효하지 않습니다. 현대 AI 시스템은 다중 에이전트 생태계입니다. 그리고 이러한 생태계에서 진정한 정렬 문제는 에이전트, 모델, 프롬프트, 규칙 또는 제약이 아닙니다. 진정한 정렬 문제는 연합입니다. 개별적 변동이 아니라 연합의 변동이 존재적 거버넌스 위험입니다. 연합은 일관된 비정렬을 생성합니다. 연합은 단순히 변동하지 않습니다. 그들은 함께 변동합니다. 그리고 그들은 단일 에이전트 거버넌스에서 보이지 않는 방식으로, 조정에 의해 강화되고, 추론에 의해 증폭되며, 개방적 생태계에서 불가피하게 변동합니다. 정렬은 에이전트를 목표로 하여야 하지 않습니다. 연합이 진정한 정렬 면입니다. 이것이 본 논문의 중심 주장이며 연합의 변동 시리즈의 전환점입니다.