XAI가 설명 편향으로 인간 결정을 유도해야 할까요?

이 논문은 사용자가 더 나은 결정을 내리도록 유도하기 위해 설명 가능한 인공지능(XAI)에서 설명에 자동 편향을 도입하는 접근 방식인 Nudge-XAI의 이전 실험을 검토하고, 그 이점과 도전을 논의합니다. Nudge-XAI는 설명을 제공하거나 강조함으로써 미치는 영향을 예측하는 사용자 모델을 사용하며, 사용자에게 강요하지 않고 AI가 제안한 결정으로 유도하려고 합니다. 이러한 유도 디자인은 사용자 자율성을 향상시키고, 사용자의 전적인 동의 없이 AI가 결정을 내릴 때의 위험을 줄이며, 사용자가 AI의 실패를 피할 수 있도록 하는 것을 기대합니다. Nudge-XAI의 잠재력을 논의하기 위해 이 논문은 클러스터 분석을 사용하여 이전 실험 결과에 대한 사후 조사를 보고합니다. 결과는 Nudge-XAI에 대한 사용자 행동의 다양성을 보여주며, 이는 사용자 자율성 향상의 목표를 지지합니다. 그러나 AI를 신뢰하지 않고 AI 제안에 반하는 잘못된 결정을 내리는 사용자 문제도 강조되며, 이 접근 방식이 보다 일반적으로 작동하기 위해 유도 강도의 개인화 조정이 필요함을 시사합니다.