에이전트 발견 (초록 재인쇄)

에이전트의 인과 모델은 기계 학습 시스템의 안전성 측면을 분석하는 데 사용되었습니다. 그러나 에이전트를 식별하는 것은 간단하지 않습니다. 종종 인과 모델은 모델러에 의해 별다른 정당화 없이 단순히 가정됩니다. 모델링의 실패는 안전성 분석의 실수로 이어질 수 있습니다. 이 논문은 에이전트의 첫 번째 공식적인 인과 정의를 제안합니다. 대략적으로 에이전트는 그들의 행동이 세상에 다른 방식으로 영향을 미친다면 그들의 정책을 조정할 시스템입니다. 이를 통해 우리는 변수 집합과 특정 가정 하에 경험적 데이터에서 에이전트의 존재를 발견하기 위한 첫 번째 인과 발견 알고리즘을 도출합니다. 또한 우리는 인과 모델과 게임 이론적 영향 다이어그램 간의 변환을 위한 알고리즘을 제공합니다. 우리는 에이전트의 잘못된 인과 모델링으로 인해 발생한 이전의 혼란을 해결함으로써 우리의 접근 방법을 입증합니다.