주장 기반 대화에서 인간 모델 근사하기

설명 가능한 AI 계획(XAIP)은 AI 에이전트가 인간 사용자에게 자신들의 결정 및 행동을 효과적으로 설명하여 신뢰를 구축하고 인간-AI 협업을 촉진하는 것을 목표로 합니다. XAIP의 주요 과제 중 하나는 모델 조정으로, 이는 AI 에이전트와 인간의 정신 모델을 일치시키는 것을 목적으로 합니다. 기존 접근 방식은 종종 알려진 결정론적 인간 모델을 가정하지만, 이러한 단순화는 실제 상호작용의 복잡성과 불확실성을 포착하지 못할 수 있습니다. 본 논문에서는 AI 에이전트가 주장 기반 대화를 통해 확률적 인간 모델을 학습하고 업데이트할 수 있는 새로운 프레임워크를 제안합니다. 본 접근 방식은 신뢰 기반 및 확실성 기반 업데이트 메커니즘을 통합하여 에이전트가 인간의 신뢰 표현과 자신의 주장에 대한 확실성을 바탕으로 인간의 정신 상태에 대한 이해를 개선할 수 있게 합니다. 우리는 신뢰와 인식된 확률 간의 관계를 포착하기 위해 가능성 이론에서 영감을 받은 확률 가중 함수와 베이즈 접근 방식을 사용하여 가능한 인간 모델에 대한 에이전트의 확률 분포를 업데이트합니다. 우리는 주장을 기반으로 한 시나리오에서 본 접근 방식의 효과성을 경험적으로 평가하기 위해 인간 대상 연구를 수행하여 인간의 신념 형성과 적응의 역학을 포착하는 능력을 입증합니다.