생성적 차별: 생성적 AI가 편견을 나타낼 때 발생하는 일과 이에 대한 대응 방안

생성적 인공지능(genAI) 기술이 다양한 분야에서 확산됨에 따라 상당한 이점을 제공하지만 차별을 악화시킬 위험도 존재합니다. 이 장에서는 genAI가 법적 비차별 법률과 어떻게 교차하는지를 탐구하며, 단점들을 식별하고 개선 방안을 제시합니다. 두 가지 주요 유형의 차별적 출력에 대해 강조합니다: (i) 경멸적이고 남용적인 콘텐츠 및 (ii) 보호받는 그룹의 불충분한 대표성으로 인한 미세한 편견. 이러한 편견은 개별 사례에서 명백하게 차별적이지 않을 수 있지만 누적적인 차별 효과를 가질 수 있습니다. 예를 들어, genAI 시스템은 중요한 직종의 사람들 이미지를 요청했을 때 백인 남성을 주로 묘사할 수 있습니다. 이 장에서는 이러한 문제를 연구하고, 문제 있는 출력을 차별적 콘텐츠, 괴롭힘, 그리고 불균형 콘텐츠, 해로운 고정관념 또는 오분류와 같은 법적으로 어려운 사례의 세 가지 법적 범주로 분류합니다. 또한 차별적 출력에 대해 genAI 제공자와 배포자를 책임지게 할 것을 주장하고, 전통적인 법적 틀이 genAI 특정 문제를 해결하는 데 불충분함을 강조합니다. 이 장에서는 훈련과 입력 데이터의 편견을 완화하기 위해 AI 법을 포함한 EU 법을 업데이트하고, 테스트 및 감사를 의무화하며, 기술 발전에 따라 편견 완화 및 포괄성을 위한 기준을 시행하는 입법의 발전을 제안합니다.