Aproximando Modelos Humanos Durante Diálogos Basados en Argumentación

La Planificación de IA Explicable (XAIP) tiene como objetivo desarrollar agentes de IA que puedan explicar efectivamente sus decisiones y acciones a los usuarios humanos, fomentando la confianza y facilitando la colaboración entre humanos e IA. Un desafío clave en XAIP es la reconciliación de modelos, que busca alinear los modelos mentales de los agentes de IA y los humanos. Si bien los enfoques existentes a menudo suponen un modelo humano conocido y determinista, esta simplificación puede no capturar las complejidades y incertidumbres de las interacciones del mundo real. En este documento, proponemos un marco novedoso que permite a los agentes de IA aprender y actualizar un modelo humano probabilístico a través de diálogos basados en argumentación. Nuestro enfoque incorpora mecanismos de actualización basados en la confianza y la certeza, permitiendo al agente refinar su comprensión del estado mental del humano en función de la confianza expresada del humano en los argumentos del agente y la certeza en sus propios argumentos. Empleamos una función de ponderación de probabilidad inspirada en la teoría de prospectos para capturar la relación entre la confianza y la probabilidad percibida, y utilizamos un enfoque bayesiano para actualizar la distribución de probabilidad del agente sobre los posibles modelos humanos. Realizamos un estudio con sujetos humanos para evaluar empíricamente la efectividad de nuestro enfoque en un escenario de argumentación, demostrando su capacidad para capturar la dinámica de la formación y adaptación de creencias humanas.