설명에서 인간-AI 공동 진화로: 미래 사용자 중심 AI를 향한 경로 그리기

초록 이 논문은 사용자 중심 인공지능의 진화하는 환경을 탐구하며, 특히 사용자에게 완전히 투명하거나 이해하기 어려운 강력한 시스템이 제기하는 도전 과제를 고려합니다. AI의 발전에도 불구하고, 시스템의 행동을 사용자 이해와 일치시키는 데 여전히 상당한 격차가 존재하며, 이는 '사용자 중심'이 실제로 무엇을 의미하는지 재평가할 필요성을 촉발합니다. 우리는 현재의 XAI 노력이 최종 사용자보다는 시스템 개발자에게 너무 집중되어 있으며, 제공되는 설명의 이해 가능성을 다루지 못하고 있다고 주장합니다. 대신 우리는 AI가 단순히 설명할 뿐만 아니라 사용자와 공동 창조하고 인지적으로 공명하는 것을 강조하는 보다 광범위하고 역동적인 인간-AI 상호작용 개념화를 제안합니다. 인간-AI 상호작용의 커뮤니케이션 중심 패러다임의 진화를 살펴보며 AI 시스템이 인간 상호작용을 모방하기보다는 향상시켜야 한다는 필요성을 강조합니다. 우리는 AI의 역할이 자율적이지 않고 촉진적이라고 이해되는 더 의미 있고 적응적인 교류로의 전환을 주장합니다. 마지막으로, 우리는 미래 UCAI가 AI의 성장하는 능력을 활용하여 인간과 기계 지능의 진정한 공동 진화를 촉진할 수 있는 방법을 개요하면서, 이러한 상호작용이 윤리적이고 사용자 중심의 원칙에 기반하도록 보장해야 한다고 설명합니다.