인공지능(AI) 알고리즘을 활용한 교육 개입의 공정성, 책임성, 투명성 및 윤리(FATE)에 대한 우려가 커지고 있습니다. AI 시스템에 대한 신뢰를 높이는 emerging 방법 중 하나는 설명 가능한 인공지능(eXplainable AI, XAI)을 사용하는 것으로, 이는 AI 시스템이 내리는 결정에 대한 투명한 설명과 이유를 제공하는 방법을 촉진합니다. XAI에 대한 기존 문헌을 고려할 때, 본 논문은 교육 분야의 XAI가 AI의 광범위한 사용과 공통점이 있지만, 또한 독특한 필요성을 가지고 있다고 주장합니다. 따라서 우리는 먼저 교육 AI 도구를 연구, 설계 및 개발하기 위해 설명 가능성과 관련된 여섯 가지 핵심 측면을 고려하는 XAI-ED라는 프레임워크를 제시합니다. 이 핵심 측면은 이해관계자, 이점, 설명을 제시하는 접근법, 널리 사용되는 AI 모델 유형, AI 인터페이스의 인간 중심 디자인 및 교육 내에서 설명 제공의 잠재적 함정에 중점을 둡니다. 이어서 우리는 네 가지 다른 교육 AI 도구에서 XAI-ED의 적용을 보여주는 포괄적인 사례 연구 네 가지를 제시합니다. 본 논문은 교육에서 XAI의 효과적인 통합을 위한 기회, 도전 및 향후 연구 필요성을 논의하며 결론을 내립니다.
Khosravi et al. (Sat,)는 이 질문을 연구했습니다.