대화형 AI의 윤리적 입장 밝히기: OpenAI의 ChatGPT와 Google의 Bard에 대한 연구

초록 대화형 AI(CAI)인 OpenAI의 ChatGPT와 Google의 Bard가 일상생활의 필수 요소가 되어가는 시대에, 이들의 윤리적 입장을 이해하는 것이 중요하다. 본 연구는 이러한 CAI가 표현한 도덕적 가치에 대해 탐구하며, 사전 훈련이 이들의 윤리적 입장에 어떻게 영향을 미치는지를 살펴본다. 연구는 ChatGPT와 Bard의 명시된 윤리적 입장을 평가하며, 이 시스템들이 특정 도덕적 가치에 부합하는지를 밝혀내고자 한다. 윤리적 입장을 이해함으로써, 본 연구는 이들 CAI가 어떻게 프롬프트에 대응하고 사용자가 선택 및 활용하는 데 어떤 시사점을 제공할 수 있는지를 탐구하고자 한다. O’Boyle와 Forsyth의 윤리적 입장 질문지(EPQ-5)를 사용하여, 연구는 CAI의 이상주의 및 상대주의 수준을 평가하였다. 또한 연구에는 제3의 CAI인 Anthropic의 Claude와 온라인 인간 패널이 포함되어, 응답의 이론적 근거를 분석하여 윤리적 입장에 대한 보다 세밀한 이해를 제공하였다. 초기 발견에 따르면, ChatGPT는 도덕 원칙에 대한 엄격한 준수를 지지하는 '절대주의자' 입장에 더 가깝고, Bard는 유연성과 상황적 고려를 중시하는 '상황주의자' 입장을 지향하는 것으로 나타났다. 그러나 Claude와 인간의 추가 분석에 따르면, ChatGPT는 '예외주의자' 범주에 적합하고 Bard는 '절대주의'에 부합하는 보다 복잡한 범주화가 제안되었다. 연구는 CAI의 훈련된 윤리적 입장을 인식하는 것이 중요함을 강조하며, 이들은 중립적이지 않고 특정 윤리적 경향을 반영한다. 이러한 입장을 이해하는 것은 CAI 출력 해석 및 이러한 시스템을 효과적이고 윤리적으로 사용하는 데 필수적이다. 연구는 이러한 윤리적 입장이 CAI의 실제 응용에 어떻게 영향을 미칠 수 있는지를 탐구할 성장을 촉구한다.