커뮤니케이션 시대의 인간-AI 상호작용: 자가포식이 대형 모델이 지역 최적점을 달성하게 한다

대형 언어 모델과 다중 모달 모델이 사회적 정보 처리에서 점점 더 중요한 역할을 하고 있음에 따라 사회적 안전성과 윤리에 대한 논쟁이 촉발되고 있다. 그러나 이러한 제한 사항에 대한 분석은 인간과 인공지능 시스템 간 상호작용의 종합적인 관점에서 접근한 연구가 거의 없다. 본 연구는 인간과 대형 모델이 커뮤니케이션의 핵심 연결로 사용될 때 발생하는 편향과 선호를 조사한다. 이를 위해 우리는 생성 모델을 정보의 생산자 및 유포자로 평가하기 위한 다중 모달 데이터셋과 세 가지 실험을 설계한다. 우리의 주요 발견은 합성 정보가 인간이 생성한 정보보다 모델 훈련 데이터셋 및 메시징에 더 많이 통합될 가능성이 높다는 것을 강조한다. 또한, 정보의 전송자로서 대형 모델은 특정 콘텐츠를 선택적으로 수정하고 잃어버리는 경향이 있다. 개념적으로 우리는 인간과 AI 시스템 간의 정보 교환에서 인간 생성 정보를 억제하는 자가포식("자기소비") 루프의 두 가지 현실적인 모델을 제시한다. 우리는 위와 같은 경향으로 인해 사회적 정보의 다양성이 감소하고 모델 성능의 병목 현상이 지역 최적점에 미치는 영향을 일반화한다.