설명 가능한 인간-AI 상호작용: 계획적 관점

AI는 시작부터 인간과 다소 애매한 관계를 맺어 왔습니다. 인간의 증강과 대체 사이에서 흔들리면서 말입니다. 이제 AI 기술이 우리의 일상 생활에 점점 더 빠르게 들어오면서, AI 시스템이 인간과 시너지 효과를 내며 작동할 필요성이 커지고 있습니다. 이러한 시너지 효과적인 인간-AI 상호작용을 위한 한 가지 중요한 요구사항은 AI 시스템이 루프에 있는 인간에게 설명 가능해야 한다는 것입니다. 이를 효과적으로 이루기 위해 AI 에이전트는 자신의 세계 모델로 계획하는 것을 넘어 루프에 있는 인간의 정신 모델을 고려해야 합니다. 여러 해의 연구를 바탕으로, AI 에이전트가 이러한 정신 모델을 사용하여 인간의 기대에 부합할 수 있도록 하거나 설명적인 의사소통을 통해 그러한 기대를 변경할 수 있는 방법에 대해 논의할 것입니다. 이 책의 주요 초점은 협력적 시나리오에 있지만, 동일한 정신 모델이 혼란 및 기만을 위해 어떻게 사용될 수 있는지도 지적할 것입니다. 이 책은 주로 우리 연구실의 연구에 의해 구동되지만, 각 장마다 다른 그룹의 관련 연구와의 충분한 연결을 제공할 것입니다.