인공지능 기반 가짜 논문: 학술 출판에 대한 새로운 위협

초록 생성적 인공지능(AI) 기술, 특히 GPT-4와 같은 대형 언어 모델(LLMs)의 출현은 학술 출판에 새로운 위협을 야기하고 있습니다. AI가 생성한 가짜 논문의 확산이 이에 해당합니다. 이러한 사기성 원고는 종종 페이퍼 밀에 의해 생산되며, 출판 부문에서 만연한 산업 범죄의 일종입니다. 페이퍼 밀은 진정한 연구와 유사한 조작된 원고를 제작하고 판매하는 이윤 중심의 비공식적이며 잠재적으로 불법적 조직입니다. 개인 행위자들은 조작된 데이터, 표절된 내용, 환상적인 참고문헌을 문헌에 도입함으로써 학술 소통의 정직성을 저해합니다. 본 논문은 이 위협의 메커니즘, 연구 신뢰성에 미치는 영향, 현재 감지 방법의 한계를 탐구합니다. 최근 사례 연구와 분석을 바탕으로, 우리는 AI가 연구 결과를 지속적으로 발표해야 한다는 압박(경력을 발전시키고, 자금을 확보하며, 기관 인정을 받기 위해 연구 결과를 지속적으로 발표해야 한다는 학문적 및 과학적 압박)과 같은 기존 문제를 어떻게 악화시키는지를 강조합니다. 마지막으로, 우리는 AI 기반 검증 도구, 블록체인 기반 저자 추적, 협업 산업 전반의 프로토콜 등을 포함한 혁신적인 완화 접근 방식을 제안합니다. 이러한 도전 과제에 대해 선제적으로 대응함으로써 학계는 과학 지식의 신뢰성을 보호할 수 있습니다.