변환기 기반 대규모 언어 모델을 위한 AI 콘텐츠 자기 탐지

초록 생성적 인공지능(AI) 도구인 ChatGPT, Bard, Claude 등을 포함한 대규모 언어 모델을 기반으로 한 텍스트 생성의 사용은 경이로운 생산성 증가의 잠재력을 가진 많은 흥미로운 응용 프로그램이 있습니다. AI 도구 사용 시 저자 귀속 문제가 발생합니다. 이는 부적절한 생성적 AI 도구의 사용이 학생 learning을 방해하거나 연구를 억제할 수 있는 학술 환경에서 특히 중요합니다. 제출된 텍스트의 출처를 추적할 수 있는 기존의 표절 탐지 시스템은 있지만, AI 생성 텍스트를 정확히 탐지할 수 있는 방법이 아직 장착되어 있지 않습니다. 이 논문은 직접 출처 탐지의 개념을 소개하고, 생성적 AI 시스템이 그들의 출력을 인식하고 인간이 작성한 텍스트와 구별할 수 있는지 평가합니다. 현재의 변환기 기반 모델이 자신의 생성 텍스트를 자기 탐지할 수 있는 이유를 주장하며, 그것이 가능한지를 조사하기 위해 제로샷 학습을 이용한 작은 실험을 수행합니다. 결과는 AI 시스템이 자신의 생성 텍스트를 식별할 수 있는 다양한 능력을 보여줍니다. Google의 Bard 모델이 94%의 정확도로 자기 탐지 능력이 가장 높고, OpenAI의 ChatGPT가 83%로 뒤를 잇습니다. 반면, Anthropic의 Claude 모델은 자기 탐지가 불가능한 것으로 보입니다.