비주얼 생성 AI에서 IP 침해 평가 및 완화

DALL-E 3, Stable Diffusion XL, Stable Video Diffusion, Sora와 같은 비주얼 생성 AI 모델의 인기가 증가하고 있습니다. 광범위한 평가를 통해, 최첨단 비주얼 생성 모델이 주요 엔터테인먼트 기업(예: Sony, Marvel, Nintendo)이 보유한 지적 재산권으로 보호받는 캐릭터와 놀라운 유사성을 가진 콘텐츠를 생성할 수 있음을 발견하였고, 이는 잠재적인 법적 문제를 야기합니다. 이는 입력 프롬프트에 캐릭터의 이름이 포함되거나 그들의 특성에 대한 설명적 세부사항이 포함될 때 발생합니다. 이러한 IP 침해 문제를 완화하기 위해 우리는 이에 대한 방어 방법도 제안합니다. 구체적으로, 우리는 잠재적으로 침해할 수 있는 생성 콘텐츠를 식별하고 확산 과정 중 가이드 기술을 활용하여 IP 침해를 방지할 수 있는 수정된 생성 패러다임을 개발합니다. 이는 지적 재산권을 침해할 가능성이 있는 생성된 콘텐츠를 인식하고, 사전 훈련된 모델을 재훈련하거나 미세 조정하지 않고도 확산 과정 전반에 걸쳐 가이드 방법을 사용하여 이러한 침해를 완화할 능력을 가지고 있습니다. Spider-Man, Iron Man, Superman과 같은 유명한 캐릭터 IP에 대한 실험은 제안된 방어 방법의 효과성을 보여줍니다. 우리의 데이터와 코드는 https://github.com/ZhentingWang/GAIIPInfringement에서 확인할 수 있습니다.